Поможет ли разработка улучшить качество ответов умных онлайн-помощников на основе языковых моделей типа Chat GPT
Ученые разработали набор методик и алгоритмов для проверки на соответствие российскому культурному коду больших языковых моделей на основе искусственного интеллекта. Такие системы применяют в сервисах типа Chat GPT. Тестовый программный комплекс включает в себя более 14 тыс. вопросов. С помощью программы, которая сокращенно называется SLAVA, было протестировано 25 отечественных и зарубежных интеллектуальных систем.
Как считают специалисты, во многом проблема связана с тем, что большая часть машинного обучения производится на основе англоязычных данных, которые зачастую не согласуются с системой знаний и ценностей, принятых в нашей стране. Фото: ИЗВЕСТИЯ/Дмитрий Коротаев По его мнению, указанные разночтения затрагивают многие ключевые темы. Преимущественно, в сфере политики и гуманитарных наук. Особенно важным этот вопрос становится, когда с умными девайсами общаются дети. Они задают приложению с искусственным интеллектом тысячи вопросов, и в результате получают ответы, не всегда полные и корректные с точки зрения российского законодательства и системы ценностей.
Главная проблема, по мнению Сергея Боловцова, в таком обучении — в том, что полученные знания, основанные на искаженной информации, закладываются на этапе формировании личности человека. По его словам, бенчмарки — эффективные инструменты для формализации гуманитарных знаний при разработке интеллектуальных систем. Поэтому была проведена работа по созданию методик и наполнению первого бенчмарка, который учитывает особенности культуры и законодательства России.
Чужим умом: пользователи научились манипулировать нейросетями Искусственный интеллект заставляют выдавать определенные ответы Как считают разработчики, предложенный бенчмарк позволяет не только обозначить проблему, но также стать основой для разработки технологий, которые обеспечат доверие к интеллектуальным помощникам. Например, регуляторные органы могут ввести специальную маркировку , который будет подтверждать корректность модели по отношению к российской системе ценностей.
Россия Последние новости, Россия Последние новости
Similar News:Вы также можете прочитать подобные новости, которые мы собрали из других источников новостей
В России проверят ИИ на соответствие российским культурным кодамИсследователи из Российской академии народного хозяйства и государственной службы при президенте РФ и Института системного программирования РАН создали бенчмарк (программный набор методик и алгоритмов), который поможет проверить на соответствие российской системе знаний и ценностей большие языковые модели на основе искусственного интеллекта (ИИ).
Прочитайте больше »
Замглавы Минобороны Анна Цивилева: задача — улучшать качество жизни наших военнослужащихЗамминистра обороны РФ — о первостепенных задачах на новом посту и работе фонда 'Защитники Отечества'
Прочитайте больше »
Марочко заявил о начале боев за КупянскПо словам военного эксперта, освобождение села Синьковка позволило российским военным усилить давление на ВСУ
Прочитайте больше »
Корреспондент Смирнов заявил, что покровский фронт ВСУ дал трещину. Новости. Первый каналРоссийским подразделениям удалось в буквальном смысле «съесть» противника в квадрате 15 на 20 километров, подчеркнул он.
Прочитайте больше »
Двум российским паралимпийцам отказали в выдаче виз на Игры в ПарижеДвум российским паралимпийцам отказали в выдаче виз на Паралимпийские игры-2024.
Прочитайте больше »
Когда родина не мила. Два украинца сбежали в Россию через Черное мореДвое украинских уклонистов среднего возраста на резиновой лодке сбежали к российским десантникам.
Прочитайте больше »