Инженерам ИИ нужна собственная «клятва Гиппократа»

• 28.08.2025, 17:55

Вот что в ней должно быть.

Если медики начинают карьеру с клятвы «Не навреди», то разработчикам систем, которые уже сегодня меняют здравоохранение, безопасность и будущее человечества, тоже нужна своя клятва, пишет журнал TIME (перевод — сайт Charter97.org).

ИИ развивается стремительно. Eго возможности удваиваются примерно каждые семь месяцев. При этом многие эксперты, включая лауреата Нобелевской премии и одного из «отцов» ИИ Джеффри Хинтона, предупреждают, что технологии могут выйти из-под контроля.

Предлагаемая «Клятва Хинтона» должна задать моральные ориентиры для инженеров ИИ. Среди ключевых принципов:

— улучшать человеческую жизнь, а не разрушать ее;

— уважать человеческое достоинство и право на выбор;

— обеспечивать прозрачность происхождения данных;

— проектировать системы, которые можно контролировать и отключить;

— не создавать инструментов для обмана или манипуляций (включая дипфейки);

— учитывать долгосрочные последствия и распределение рисков.

ИИ влияет не только на экономику, политику и экологию, но и на мозг, смещает внимание и изменяет поведение пользователей. Это требует такой же этической ответственности, как и в медицине.

Вопрос не в том, изменит ли ИИ общество, а в том, подойдут ли его создатели к этому процесс со всей ответственностью». Однажды «Клятва Хинтона» станет символом профессиональной этики, как белый халат у врачей.