Проблема обнаружилась после анализа как минимум 20 запросов, в которых система не смогла отличить творчество авторов SCP от документальной хроники. В одном из случаев нейросеть процитировала объект SCP-426, известный как «тостер, который заставляет говорить о себе от первого лица», полностью скопировав стилистику вымышленного отчета без пояснений. Аналогичные сбои зафиксированы при обработке данных об объектах SCP-922 и SCP-779.
Хотя в некоторых случаях ИИ начал помечать контент как «вымышленную аномалию», нестабильность алгоритма вызывает серьезные вопросы. Поскольку AI Overviews занимают привилегированное место в поисковой выдаче Google, неподготовленные пользователи, включая детей, рискуют принять псевдонаучный фольклор за описание реальных событий. Это лишь один из примеров системной уязвимости генеративных моделей, которые ранее уже попадались на искажении исторических фактов и выдаче опасных рекомендаций.
Комментарии (0)
Пока нет комментариев. Будьте первым!