Не проверял, сразу на форуме поправил. Вместо in_array, лучше при проверке, в случае успеха, сразу знать ключ, который удалять.
$file = file('baza.txt');
$key = array_search('4444', $file);
if($key === false ){
echo 'Неа..';
}else{
unset($file[$key]);
file_put_contents("baza.txt", implode("", $file));
}