Описание проекта
Яндекс разрабатывает концепцию тестирования искусственного интеллекта на соответствие духовно‑нравственным ценностям.
На отрасловом собрании по регулированию ИИ обсуждались тестовые задания и эталоны, а также вопросы доступа к данным для тестирования.
По словам участников, проект пока на стадии концепции.
Предлагается сочетать закрытые и открытые датасеты с разной формулировкой вопросов, чтобы обеспечить баланс между безопасностью и развитием моделей.
Контекст: в конце июля президент подписал закон о суверенных и национальных моделях ИИ, которым должны руководствоваться при разработке в России.
Резюме: обсуждения подчеркивают важность соблюдения законов и духовно‑нравственных ценностей в новых технологиях.
- Цель — проверить ИИ на соответствие ценностям
- Компромисс между открытыми и закрытыми датасетами
- Статус проекта — концепция
