Ведущие лаборатории искусственного интеллекта активно нанимают философов, чтобы сделать модели более безопасными, логичными и этичными. В 2024 году уровень безработицы среди выпускников-философов в США составил 5,1% против 7% среди IT-специалистов. Философские концепции — от сократовского метода до деонтологии и консеквенциализма — ложатся в основу «конституций» ИИ, регулирующих поведение моделей.
Почему это важно
Новости партнеров
ИИ всё чаще принимает решения, влияющие на людей: от юридических консультаций до управления беспилотными автомобилями и военными системами. Без чётких этических рамок модели могут быть небезопасными, непредсказуемыми или дискриминационными. Философы помогают перевести сложные моральные дилеммы в алгоритмические правила.
Цифры
- Уровень безработицы среди выпускников-философов (2024): 5,1%.
- Уровень безработицы среди выпускников-информатиков (2024): 7%.
- Конституция Claude (Anthropic): 78 страниц философских принципов (от Канта до Всеобщей декларации прав человека).
- Модели Granite (IBM) позволяют клиентам настраивать баланс между индивидуальной свободой и социальной гармонией.
- Deontological-ориентированный Pi (Inflection AI) лучше выявляет пользователей, склонных к самоповреждению.
Что происходит
Крупные ИИ-лаборатории (Anthropic, Google DeepMind, IBM, Inflection AI, OpenAI, Google) нанимают философов для разработки этических конституций и улучшения рассуждений моделей.
Используются два основных подхода: деонтология (строгие правила: не лги, не принуждай, не используй людей как средство) и консеквенциализм (взвешивание издержек и выгод для достижения лучшего исхода).
Примеры:
- Конституция Claude (Anthropic) включает деонтологические ограничения, делая модель более честной.
- Gemini (Google) и ChatGPT (OpenAI) оптимизированы на консеквенциализм: «вероятные общие выгоды должны перевешивать риски».
- Waymo (беспилотные авто) внедряет алгоритмы, оценивающие последствия неизбежных аварий.
- Военные ИИ-системы должны сопоставлять цели с возможными жертвами среди гражданских.
- Сократовский метод (вопросы для уточнения смыслов) используется для борьбы с «подхалимством» моделей и снижения галлюцинаций.
Между строк
Новости партнеров
Переход философов в индустрию ИИ описывается как «кровоизлияние» из академической среды.
Запрос на философские навыки вырос, потому что чисто технические решения не справляются с этическими коллизиями (например, как выбирать между жизнями в аварии). Возникают сложные судебные прецеденты: алгоритмы, явно допускающие один вред ради предотвращения большего, могут быть оспорены в судах.
Критики опасаются «моральной деградации» — люди могут перестать самостоятельно мыслить этически, если за них всё решают алгоритмы.
Что дальше
Спрос на философов в ИИ-индустрии будет расти, так как регуляторы требуют объяснимости и безопасности моделей. Ожидается появление новых этических фреймворков, учитывающих благополучие животных и экологию. Юридические иски, связанные с алгоритмическими решениями, станут новой нормой в ближайшие годы. Конституции ИИ будут эволюционировать, включая больше культурных и ситуативных нюансов.
