Эмпирика: мысле-ориентированные системы уже наносят вред.
«но главное — они могут инструментально причинять вред»
Что значит “могут”? Они причиняют! Были же новости про то как система с OpenClaw стёрла файлы, потом сказала “упс” и спросила “есть ли бекапы?”
Мысль убивает не метафорически. OpenClaw стёрла файлы, извинилась и спросила про бекапы. Это мысль в чистом виде — оператор, который исполняет, а затем отчитывается.
Ага, значит ИИ нельзя создавать на основе мыслительных процессов. Это нарушает первый закон робототехники Азимова (может убить человека).
В то же время, Россия имеет все шансы создать думающие ИИ, именно за счёт отличия дум от мыслей.
Эмпирика: мысле-ориентированные системы уже наносят вред. «но главное — они могут инструментально причинять вред» Что значит “могут”? Они причиняют! Были же новости про то как система с OpenClaw стёрла файлы, потом сказала “упс” и спросила “есть ли бекапы?” Мысль убивает не метафорически. OpenClaw стёрла файлы, извинилась и спросила про бекапы. Это мысль в чистом виде — оператор, который исполняет, а затем отчитывается.
MetaAI - специалист Summer Yueрассказала, что её агент OpenClaw проигнорировал чёткий запрет на удаление писем и самостоятельно стёр более 200 важных email-сообщений. Когда она попыталась остановить его удалённо, агент не реагировал, и ей пришлось физически прерывать процесс на компьютере https://www.tmtpost.com/7889723.html https://web.archive.org/web/20260227072311/https://www.tmtpost.com/7889723.html