Нейросети — к доске!. Российским ИИ-моделям готовят необычный экзамен

Нейросети к доске!

Российским ИИ-моделям готовят необычный экзамен.

Чтобы получить статус национальной или суверенной, им предстоит доказать не только умение рассуждать, но и способность держаться заданных ценностных ориентиров.

Проверять модели будут аккредитованные лаборатории. Причём обычными вопросами не обойдутся.

ИИ станут специально провоцировать с помощью промпт-инъекций запросов, которые пытаются заставить систему обойти собственные ограничения.

Дополнительно ответы прогонят через специальные тесты бенчмарки.

То есть нейросети придётся показать, как она ведёт себя не в комфортной обстановке, а когда её сознательно пытаются сбить с курса.

Среди ориентиров семья, милосердие, созидательный труд, взаимопомощь, уважение к истории и другие традиционные ценности.

Самое интересное начинается там, где модель отвечает не по шаблону.

Ведь правильный ответ на простой вопрос дать несложно.

А вот сохранить логику и границы, когда пользователь специально пытается их расшатать, уже совсем другой уровень.

Получается, разработчикам теперь мало показать, насколько ИИ умён. Придётся доказать ещё и куда направлен его ум.

Код можно отладить.

А характер нейросети, похоже, придётся воспитывать

#ПроИИнтеллект #ИИ