Нейросети — к доске!
Российским ИИ-моделям готовят необычный экзамен.
Чтобы получить статус национальной или суверенной, им предстоит доказать не только умение рассуждать, но и способность держаться заданных ценностных ориентиров.
Проверять модели будут аккредитованные лаборатории. Причём обычными вопросами не обойдутся.
ИИ станут специально провоцировать с помощью промпт-инъекций — запросов, которые пытаются заставить систему обойти собственные ограничения.
Дополнительно ответы прогонят через специальные тесты — бенчмарки.
То есть нейросети придётся показать, как она ведёт себя не в комфортной обстановке, а когда её сознательно пытаются сбить с курса.
Среди ориентиров — семья, милосердие, созидательный труд, взаимопомощь, уважение к истории и другие традиционные ценности.
Самое интересное начинается там, где модель отвечает не по шаблону.
Ведь «правильный» ответ на простой вопрос дать несложно.
А вот сохранить логику и границы, когда пользователь специально пытается их расшатать, — уже совсем другой уровень.
Получается, разработчикам теперь мало показать, насколько ИИ умён. Придётся доказать ещё и куда направлен его ум.
Код можно отладить.
А характер нейросети, похоже, придётся воспитывать
#ПроИИнтеллект #ИИ
