Специалисты подразделения T-Bank AI Research разработали метод, который повышает точность и безопасность ответов генеративных ИИ-систем на 15%, сообщает ТАСС. Результаты исследования опубликованы на официальном сайте T-Bank. Алгоритм анализирует контекст запросов, проверяет соответствие ответов установленным протоколам безопасности и корректирует их до вывода пользователю. Исследователи протестировали новый метод на Alpaca Eval 2.0 и Arena Hard, бенчмарках, которые оценивают общую производительность языковых моделей. В ходе испытаний зафиксировано снижение ошибок в фактологической точности на 13,8% и уменьшение генерации потенциально опасного контента на 15,2%.
Внедрение технологии началось в сервисах обработки клиентских запросов T-Bank, включая автоматизированную поддержку и анализ финансовых операций. Это подтверждается материалом РИА Новости, где указано, что обновление уже применяется для фильтрации мошеннических схем и ошибок в транзакциях. Архитектурные изменения нейросети затрагивают механизм внимания (attention layers). Модификация позволяет выделять смысловые связи в запросе и минимизировать риски неверной интерпретации.
По словам Анны Сорокиной, профессора Высшей школы экономики , прозрачность процессов ИИ критична для повышения надежности: «Раньше мы не понимали, как нейросети взвешивают данные при генерации ответов. Инструменты интерпретации, подобные тем, что созданы в T-Bank, позволяют выявлять “слепые зоны” моделей». Об этом она рассказала в материале Forbes.
До 2024 года анализ механизмов принятия решений ИИ-моделями затруднялся из-за их «черного ящика». Это означает, что пользователи могут получить результаты от модели, но не могут точно понять, как именно модель пришла к этим выводам. Одной из основных проблем стало то, что алгоритмы ИИ, трудно интерпретировать. Люди не могут понять, на основе каких данных и факторов модель принимает решения. Например, в США системы автоматического одобрения онлайн-заявлений на ипотеку вызвали скандал. Они автоматически отклоняли 80% заявлений от темнокожих и 40% заявлений от латиноамериканцев, следует из материала Associated Press.
В своём выступлении на TED Talk, посвященном передовым технологиям, соучредитель OpenAI Грег Брокман рассказал о принципах работы ChatGPT. Для президента OpenAI повадки нейросети тоже стали неожиданностью. Модель сама научилась складывать 40-значные числа, изначально она этого не умела.
Инструмент от T-Bank AI Research для интерпретации внутренних процессов нейросетей позволит корректировать логику генерации ответов.
«Наша задача не только сделать модели лучше, но и понять, как они работают изнутри. Представьте ИИ-ассистента, с которым общаются дети. Вдруг он начинает выдавать недостоверную или даже грубую информацию. Сейчас изменить его поведение – сложная задача, ведь существующие методы не дают нам четкого понимания, где именно возникла проблема. Новый метод – это первый шаг к созданию более прозрачного и надежного искусственного интеллекта, которому можно доверять. И мы планируем продолжить исследования в направлении интерпретируемости ИИ». Об этом рассказал руководитель научной группы T-Bank AI Research Никита Балаганский в журнале «Компьютерра».
В T-Bank AI Research заявили, что технология будет адаптирована для других отраслей, включая медицину и юридические услуги. На следующем этапе исследователи планируют интегрировать систему валидации с языковыми моделями третьего поколения, такими как GPT-4 и Claude 3. Это потребует доработки алгоритмов из-за увеличения объема параметров нейросетей.
Здесь все о бытовых вещах: борьба с мошенниками, банковские продукты, роботы вместо фармацевтов. Приходите на страницу этого автора, чтобы понять, какие технологии уже окружают нас в обычной жизни!