На прошлой неделе в Минцифры обсуждали идею создания национального датасета — набора заданий для проверки нейросетей на соответствие духовно-нравственным ценностям. Об этом пишет издание «Коммерсантъ».
По мнению участников встречи, необходимо проверять соответствие языковых моделей «духу времени и ценностям страны». Собравшиеся спорили о формате доступа к готовящимся тестам. ФСБ выступила за закрытый режим, чтобы разработчики не подгоняли модели под конкретные вопросы. Представители бизнеса, напротив, предостерегли, что непрозрачный бенчмарк усложнит дальнейшую разработку и развитие нейросетей. В результате пришли к компромиссу: можно использовать открытый формат тестов для промежуточных испытаний, а закрытый (с теми же тематиками, но иными формулировками) — для финальной аттестации.
Сам проект находится на этапе обсуждения. Кто конкретно будет формировать содержание датасета, пока не решено. В ИТ-отрасли предложили создать совместную комиссию из представителей власти, бизнеса и экспертных организаций.
Сперва «Коммерсантъ» со ссылкой на собственный источник указал, что концепцию специальных ИИ-тестов предложила корпорация «Яндекс». Позже в компании уточнили, что их представители были не инициаторами проекта, а лишь участниками обсуждения.
Напомним, на прошлой неделе в ряде telegram-каналов появились сообщения о том, что нейросеть «Яндекса» «Алиса» рекомендует не использовать российский национальный мессенджер MAX. Отвечая на запросы Лениздата, нейросеть посоветовала пользователям, для которых важна приватность, перенести общение в другие приложения. Она рекомендовала мессенджеры Signal, Threema, Session и другие.