Эмпирика: мысле-ориентированные системы уже наносят вред. «но главное — они могут инструментально причинять вред» Что значит “могут”? Они причиняют! Были же новости про то как система с OpenClaw стёрла файлы, потом сказала “упс” и спросила “есть ли бекапы?” Мысль убивает не метафорически. OpenClaw стёрла файлы, извинилась и спросила про бекапы. Это мысль в чистом виде — оператор, который исполняет, а затем отчитывается.

MetaAI - специалист Summer Yueрассказала, что её агент OpenClaw проигнорировал чёткий запрет на удаление писем и самостоятельно стёр более 200 важных email-сообщений. Когда она попыталась остановить его удалённо, агент не реагировал, и ей пришлось физически прерывать процесс на компьютере https://www.tmtpost.com/7889723.html https://web.archive.org/web/20260227072311/https://www.tmtpost.com/7889723.html