Локальна велика мовна модель для автономних комп'ютерних пристроїв
| dc.contributor.author | Парфутік, Микола Олександрович | |
| dc.date.accessioned | 2026-06-02T08:36:51Z | |
| dc.date.available | 2026-06-02T08:36:51Z | |
| dc.date.issued | 2026-06-01 | |
| dc.description.abstract | Метою роботи є розробка програмного забезпечення для автономного запуску великих мовних моделей на локальних комп'ютерних пристроях з обмеженими ресурсами (Edge AI). У кваліфікаційній роботі проведено аналіз предметної області, досліджено існуючі хмарні рішення та їхні недоліки щодо конфіденційності, спроєктовано багатошарову архітектуру системи, обґрунтовано вибір технологічного стеку та реалізовано програмний продукт. Для реалізації обчислювального ядра використано мову Python, бібліотеку llama-cpp-python з підтримкою апаратного прискорення та методи 4-бітної квантизації. Інтегровано конвеєр RAG (Retrieval-Augmented Generation) на базі локальної векторної СУБД ChromaDB для забезпечення обробки документів без фактологічних помилок. Для керування інтерфейсом користувача використано фреймворк Streamlit. Розроблений застосунок надає користувачам зручний інтерфейс для ведення діалогу з мовною моделлю, завантаження власних PDF/DOCX документів та управління локальною базою знань без підключення до мережі Інтернет. Застосунок забезпечує абсолютну конфіденційність даних і є ефективним рішенням для використання в ізольованих (Air-gapped) середовищах. | |
| dc.identifier.citation | Парфутік М. О. Локальна велика мовна модель для автономних комп'ютерних пристроїв : кваліфікаційна робота бакалавра : 121 Інженерія програмного забезпечення / Хмельницький національний університет. Хмельницький, 2026. 108 с. | |
| dc.identifier.uri | https://elar.khmnu.edu.ua/handle/123456789/21137 | |
| dc.language.iso | uk | |
| dc.publisher | Хмельницький національний університет | |
| dc.subject | 121 Інженерія програмного забезпечення | |
| dc.subject | Велика мовна модель | |
| dc.subject | Edge AI | |
| dc.subject | RAG | |
| dc.subject | ChromaDB | |
| dc.title | Локальна велика мовна модель для автономних комп'ютерних пристроїв | |
| dc.type | Бакалаврські роботи |
Файли
Контейнер файлів
1 - 1 з 1
Вантажиться...
- Назва:
- Кваліффікаційна_робота_Парфутік_з_підписами.pdf
- Розмір:
- 8.55 MB
- Формат:
- Adobe Portable Document Format
Ліцензійна угода
1 - 1 з 1
- Назва:
- license.txt
- Розмір:
- 4.26 KB
- Формат:
- Item-specific license agreed upon to submission
- Опис: