Не внятно написано, что желаемо получить, без длительного разбирательства. И по сему:
если применить ф-ю на вхождение, то так: urlencode(.'$2'.)

href="http://www.site.net/index.php?page=away&to=$2"

$2 - это ссылка
требуется вместо самого $2 подставить urlencode от неё. или применить по желанию другую функцию.

Попробовал так

$content=preg_replace('(\[(URL|url)\=((http|ftp|https):\/\/[a-zA-Z0-9\/\-\+\?\&\.\=\_\~\#\'\%\;]*)\](.+?)\[\/(URL|url)\])', '<a rel="nofollow" href="http://www.site.net/index.php?page=away&to='.urlencode(.'$2'.).'">$4</a>', $content);

не сработало

echo preg_replace("~.*(t1).*$~U",'aaa' . urlencode('$1') . 'ccc',"aaat1bbb");

работает, значит проблема в другом

Попробовал так

$content=preg_replace('(\[(URL|url)\=((http|ftp|https):\/\/[a-zA-Z0-9\/\-\+\?\&\.\=\_\~\#\'\%\;]*)\](.+?)\[\/(URL|url)\])', '<a rel="nofollow" href="http://www.site.net/index.php?page=away&to='.urlencode('$2').'">$4</a>', $content);

Сейчас ошибку не выдаёт, но замену не производит
Пишет вместо ссылки само $2

Покажите исходную строку

И так ещё раз попытаюсь более понятно объяснить.

$content=preg_replace('(\[(URL|url)\=((http|ftp|https):\/\/[a-zA-Z0-9\/\-\+\?\&\.\=\_\~\#\'\%\;]*)\](.+?)\[\/(URL|url)\])', '<a rel="nofollow" href="http://www.site/index.php?page=away&to=$2">$4</a>', $content);

Исходная строка

яндекс

Как вставить код бб=кодов здесь?

Она заменяется на

<a rel="nofollow" href="http://www.site.net/index.php?page=away&to=http://ya.ru">яндекс</a>

Это работает корректно.

Но требуется к вхождению $2 (ссылка http://ya.ru) применить функцию urlencode
Это-то как раз и не работает, т.к я не знаю как правильно применять функции к вхождениям.

А уже принимающий скрипт сделает urldecode

preg_replace_callback()
Вот тут посмотри, мож чего полезного найдешь.

Да нужно callback, ваш вариант не будет работать так как urlencode выполняется перед выполнение preg_replace

Значит решается всё не так просто как я рассчитывал.

К сожалению я регулярные выражения совершенно не знаю, да и пхп тоже довольно слабо.

Может ли кто-нибудь помочь?

Вот код который нужно исправить:

// external uris
  // text
  $content=preg_replace('(\[(URL|url)\=((http|ftp|https):\/\/[a-zA-Z0-9\/\-\+\?\&\.\=\_\~\#\'\%\;]*)\](.+?)\[\/(URL|url)\])', '<a rel="nofollow" href="http://www.site.net/index.php?page=away&to=$2">$4</a>', $content);
  // For people too lazy to put http:// on the uri. /Shouldn't/ be XSSable
  $content=preg_replace('(\[(URL|url)\=([a-zA-Z0-9\/\-\+\?\&\.\=\_\~\#\'\%\;]*)\](.+?)\[\/(URL|url)\])', '<a rel="nofollow" href="http://www.site.net/index.php?page=away&to=http://$2">$3</a>', $content);
  // uri
  $content=preg_replace('(\[url\]((http|ftp|https):\/\/([a-zA-Z0-9\/\-\+\?\&\.\=\_\~\#\'\%\;]*))\[\/url\])','<a rel="nofollow" href="http://www.site.net/index.php?page=away&to=$2://$3">$2://$3</a>',$content);
  // lazy http:// people...
  $content=preg_replace('(\[url\]([a-zA-Z0-9\/\-\+\?\&\.\=\_\~\#\'\%\;]*)\[\/url\])','<a rel="nofollow" href="http://www.site.net/index.php?page=away&to=http://$1">http://$1</a>',$content);
  ////////////////

Я дал ссылку, куда еще подробнее...
Разве что в раздел - предлагаю работу

И на а этом спасибо. Действительно помогло.

Вместо

$content=preg_replace('(\[(URL|url)\=((http|ftp|https):\/\/[a-zA-Z0-9\/\-\+\?\&\.\=\_\~\#\'\%\;]*)\](.+?)\[\/(URL|url)\])', '<a rel="nofollow" href="http://www.site.net/index.php?page=away&to=$2">$4</a>', $content);

сделал

function extredir($match)
{
  return '<a rel="nofollow" href="http://www.site.net/index.php?page=away&to='.urlencode($match[2]).'">'.$match[4].'</a>';
}
$content=preg_replace_callback('(\[(URL|url)\=((http|ftp|https):\/\/[a-zA-Z0-9\/\-\+\?\&\.\=\_\~\#\'\%\;]*)\](.+?)\[\/(URL|url)\])', 'extredir', $content);

Но при этом получаю "Внутренняя ошибка сайта."
Подскажите где косяк?

Это несвязанные вещи

Всё разобрался. Сорри.