Інформаційна система підтримки вибору та оцінювання методів узгодження поведінки великих мовних моделей

Abstract

Магістерська робота присвячена дослідженню та розробленню методів оцінювання й вибору технологій узгодження поведінки великих мовних моделей (LLM) у контексті побудови інформаційної системи для керованого, відтворюваного та обґрунтованого процесу прийняття рішень. Актуальність дослідження зумовлена зростанням використання великих мовних моделей у промислових та дослідницьких застосуваннях, що супроводжується ризиками токсичності, упередженості, порушення форматів відповідей та нестабільності поведінки моделей. Такі виклики потребують створення уніфікованих інструментів, які забезпечують прозоре оцінювання та коректний вибір методів узгодження. Об’єктом дослідження є процес узгодження поведінки великих мовних моделей. Предметом дослідження є методи оцінювання, порівняння та багатокритеріального вибору технологій узгодження великих мовних моделей, а також моделі і програмні засоби, що забезпечують автоматизацію цього процесу. Мета роботи – підвищення обґрунтованості та ефективності вибору методів узгодження поведінки великих мовних моделей шляхом розроблення інформаційної системи з багатокритеріальним аналізом рішень та стандартизованими процедурами оцінювання. Відповідно до мети визначено такі завдання:  виконати системний огляд підходів до узгодження та типів даних, що для них застосовуються;  сформувати критерії та метрики оцінювання якості, безпеки, ефективності, надійності та вартості;  побудувати концептуальну та інформаційну модель системи, визначити життєвий цикл експериментів і артефактів;  розробити модель багатокритеріального вибору та методику оцінювання з чутливісним аналізом;  підготувати специфікацію вимог до програмного забезпечення;  спроєктувати архітектуру та інтерфейси системи, включно з моделями даних і користувацьким інтерфейсом;  реалізувати прототип, провести тестування та експериментальне порівняння методів, сформувати звіти. Кваліфікаційна магістерська робота складається зі вступу, чотирьох розділів, висновків, списку використаних джерел та додатків. The master’s thesis is devoted to the study and development of methods for evaluating and selecting technologies for aligning the behavior of large language models (LLMs) in the context of building an information system that supports controlled, reproducible, and well–grounded decision–making. The relevance of the research is determined by the growing use of large language models in industrial and scientific applications, which is accompanied by risks such as toxicity, bias, response format inconsistencies, and instability of model behavior. These challenges necessitate the development of unified tools that ensure transparent evaluation and correct selection of оцінювання methods. The object of the research is the process of aligning the behavior of large language models. The subject of the research includes methods for evaluating, comparing, and performing multi–criteria selection of LLM оцінювання technologies, as well as the models and software tools that enable automation of this process. The aim of the work is to increase the justification and effectiveness of selecting methods for aligning the behavior of large language models by developing an information system with multicriteria decision analysis and standardized evaluation procedures. In accordance with the aim, the following tasks are defined:  conduct a systematic review of alignment approaches and the types of data used for them;  define criteria and metrics for evaluating quality, safety, efficiency, reliability, and cost;  build a conceptual and information model of the system and define the life cycle of experiments and artifacts;  develop a multicriteria selection model and an evaluation methodology with sensitivity analysis;  prepare a software requirements specification;  design the system architecture and interfaces, including data models and the user interface;  implement a prototype, perform testing, and carry out an experimental comparison of methods, and generate reports. The master’s qualification work consists of an introduction, four chapters, conclusions, a list of references, and appendices.