[techni]

1. Управлением библиографией занимаются специальные программы работающие с форматом .bib (BiBTeX). Их существует огромное количество, хотя такой файл можно и вручную набрать, благо формат достаточно простой. После создания файла .bib он подключается к текущему документу:
Insert -> List\TOC -> BiBTeX bibliography
Затем в нужном месте просто вставляем ссылку на нужную публикацию просто выбрав её из списка:
Insert -> Citation
Всё - о включении в список только использованных публикаций из базы библиографии и о корректной нумерации и внешнем оформлении LyX позаботится сам.

2. Хмм... Хороший вопрос. Честно говоря в голову не приходило, но непременно посмотрю как это сделать.

3. "Не бесплатных" версий просто не существует - это программа с открытым исходным кодом и распространяется она совершенно свободно. Что касается зависаний - честно говоря даже не знаю - я использую его под Linux, а там у меня вообще ничего не виснет, включая и LyX.