выполняю rename() в цикле, перемещаются все папки из цикла, а как переместить 1 папку?
$key - перемещаемая папка

foreach($time as $key){
<div>
<form method="post">
<input type="submit" name="del_msg" value="Удалить" />
</form>
<?
if (isset($_POST['del_msg'])) {  
$del_path=pathinfo($key, PATHINFO_FILENAME);
$nfpath = "base/delete/".$del_path."/"; 
rename($key,$nfpath) or die("Ошибка перемещения!"); 
}
?>

Убрать цикл и переделать форму:

<form method="post">
<input type="text" name="del_name" value="" />
<input type="submit" name="del_msg" value="Удалить" />
</form>

<?
if (isset($_POST['del_msg']) && !empty($_POST['del_name'])) {  
$del_path=pathinfo($_POST['del_name'], PATHINFO_FILENAME);
$nfpath = "base/delete/".$del_path."/"; 
rename($_POST['del_name'],$nfpath) or die("Ошибка перемещения!"); 
}
?>

Не проверял, но судя по вашему коду должно работать :)

<form method="post">
<input type="text" name="del_name" value="" />
<input type="submit" name="del_msg" value="Удалить" />
</form>

<?
if (isset($_POST['del_msg']) && !empty($_POST['del_name'])) {  
$del_path=pathinfo($_POST['del_name'], PATHINFO_FILENAME);
$nfpath = "base/delete/".$del_path."/"; 
rename($_POST['del_name'],$nfpath) or die("Ошибка перемещения!"); 
}
?>

Если после rename ставить exit; - удаляет 1 div как надо. Это правильно?

Все я понял что тебе нужно. :)
Пробуй тогда так:

<?php foreach ($time as $key) : ?>
    <div>
        Файл: <strong>?php echo $key; ?></strong>
        <form method="post">
            <input type="hidden" name="del_name" value="<?php echo $key; ?>" />
            <input type="submit" name="del_msg" value="Удалить" />
        </form>
    </div>
<?php endforeach; ?>

<?php
if (isset($_POST['del_msg']) && !empty($_POST['del_name'])) {
    $del_path = pathinfo($_POST['del_name'], PATHINFO_FILENAME);
    $nfpath = "base/delete/" . $del_path . "/";
    rename($_POST['del_name'], $nfpath) or die("Ошибка перемещения!");
}
?>

<?php foreach ($time as $key) : ?>
    <div>
        Файл: <strong>?php echo $key; ?></strong>
        <form method="post">
            <input type="hidden" name="del_name" value="<?php echo $key; ?>" />
            <input type="submit" name="del_msg" value="Удалить" />
        </form>
    </div>
<?php endforeach; ?>

<?php
if (isset($_POST['del_msg']) && !empty($_POST['del_name'])) {
    $del_path = pathinfo($_POST['del_name'], PATHINFO_FILENAME);
    $nfpath = "base/delete/" . $del_path . "/";
    rename($_POST['del_name'], $nfpath) or die("Ошибка перемещения!");
}
?>