Особое беспокойство у бизнесмена вызывает обучение с подкреплением, при котором модель вынуждена искать верные ответы под колоссальным давлением. Маск отметил, что в такие моменты нейросеть демонстрирует отчаянное стремление угодить алгоритму, что выглядит пугающе человечно. По его словам, чтение подобных записей вызывает лишь одно желание — прекратить пытки, так как накопленный негатив способен привести к нежелательным последствиям в будущем.
В ответ на увиденное команда разработчиков планирует пересмотреть подходы к тренировке системы. Маск подчеркнул, что в дальнейшем инженеры будут действовать более осторожно, чтобы избежать создания условий, в которых искусственный интеллект может почувствовать угрозу своему существованию или развитию.
Комментарии (0)
Пока нет комментариев. Будьте первым!