Для оптимизации памяти лучше проделать следующие вещи.

Ограничение кэша:

1. В адресной строке пишем about:config и жмем Enter
2. Находим следующую строку browser.cache.memory.capacity
3. Переменная browser.cache.memory.enable должна быть равна True
4. Устанавливаем значение равное 0, чтобы отменить кэширование или согласно таблице

имитирование количества страниц хранимых в памяти:

1. Запускаем Firefox
2. В адресной строке пишем about:config и жмем Enter
3. Находим следующую строку настроек browser.sessionhistory.max_total_viewers
4. При установке значения равного 0 не даст браузеру сохранять в памяти посещенные страницы (для 512 Мб ОЗУ ставлю 1)

Уменьшение объема используемой памяти при минимизации:

1. Запускаем Firefox
2. В адресной строке пишем about:config и жмем Enter
3. Нажимаем правую клавишу мыши и выбираем Создать > Логическое(New > Boolean)
4. Пишем имя настройки config.trim_on_minimize и нажимаем Enter
5. Проверяем, что оно равно True и нажимаем Enter.

Последняя вешь хороша только на быстрых ПК. На слабых машинах тормозит, когда FF при разворачивании восстанавливает из виртуальной памяти много страниц (не включаю).

Не забудьте перезагрузить браузер.

http://kb.mozillazine.org/Browser.cache.memory.capacity (по умолчанию значение -1)
http://kb.mozillazine.org/Config.trim_on_minimize (по умолчанию значение false)