Локальна велика мовна модель для автономних комп'ютерних пристроїв

dc.contributor.authorПарфутік, Микола Олександрович
dc.date.accessioned2026-06-02T08:36:51Z
dc.date.available2026-06-02T08:36:51Z
dc.date.issued2026-06-01
dc.description.abstractМетою роботи є розробка програмного забезпечення для автономного запуску великих мовних моделей на локальних комп'ютерних пристроях з обмеженими ресурсами (Edge AI). У кваліфікаційній роботі проведено аналіз предметної області, досліджено існуючі хмарні рішення та їхні недоліки щодо конфіденційності, спроєктовано багатошарову архітектуру системи, обґрунтовано вибір технологічного стеку та реалізовано програмний продукт. Для реалізації обчислювального ядра використано мову Python, бібліотеку llama-cpp-python з підтримкою апаратного прискорення та методи 4-бітної квантизації. Інтегровано конвеєр RAG (Retrieval-Augmented Generation) на базі локальної векторної СУБД ChromaDB для забезпечення обробки документів без фактологічних помилок. Для керування інтерфейсом користувача використано фреймворк Streamlit. Розроблений застосунок надає користувачам зручний інтерфейс для ведення діалогу з мовною моделлю, завантаження власних PDF/DOCX документів та управління локальною базою знань без підключення до мережі Інтернет. Застосунок забезпечує абсолютну конфіденційність даних і є ефективним рішенням для використання в ізольованих (Air-gapped) середовищах.
dc.identifier.citationПарфутік М. О. Локальна велика мовна модель для автономних комп'ютерних пристроїв : кваліфікаційна робота бакалавра : 121 Інженерія програмного забезпечення / Хмельницький національний університет. Хмельницький, 2026. 108 с.
dc.identifier.urihttps://elar.khmnu.edu.ua/handle/123456789/21137
dc.language.isouk
dc.publisherХмельницький національний університет
dc.subject121 Інженерія програмного забезпечення
dc.subjectВелика мовна модель
dc.subjectEdge AI
dc.subjectRAG
dc.subjectChromaDB
dc.titleЛокальна велика мовна модель для автономних комп'ютерних пристроїв
dc.typeБакалаврські роботи
Файли
Контейнер файлів
Зараз показуємо 1 - 1 з 1
Вантажиться...
Ескіз
Назва:
Кваліффікаційна_робота_Парфутік_з_підписами.pdf
Розмір:
8.55 MB
Формат:
Adobe Portable Document Format
Ліцензійна угода
Зараз показуємо 1 - 1 з 1
Назва:
license.txt
Розмір:
4.26 KB
Формат:
Item-specific license agreed upon to submission
Опис:
Зібрання