Эксперты призвали разрабатывать ИИ, отвечающий нуждам всего человечества
В рамках II Глобального цифрового форума в Москве 9 октября состоялась сессия «Глобальный диалог об этике ИИ: экспертный форум о новых вызовах». Ее участники обсудили, как сделать нейросеть ответственной.
В начале дискуссии ее модератор, управляющий директор Центра человекоцентричного ИИ ПАО «Сбербанк», член независимой международной научной группы ООН Андрей Незнамов, представил книгу, в которой собраны все этические вопросы, касающиеся сферы когнитивных технологий. По его словам, когда книга вышла в 2025 году, таких вопросов набралось 42, а в этом году их оказалось уже 100.
Управляющий и генеральный директор компании IQuilibriumAI, эксперт ОЭСР по ИИ Химена София Виверос Альварес (Мексика) обозначила важность четких принципов при работе с нейросетями.
«Сейчас люди взаимодействуют с технологией так много, что нам необходимо осмыслить это взаимодействие и понять, какие ценности и принципы должны здесь применяться. В ЮНЕСКО есть регламентация по поводу ИИ. По мере того, как продолжается революция технологий, мы снова обсуждаем и переформулируем эти принципы… Нужны единые институты, чтобы мы все двигались в едином направлении и к единой цели: использовать ИИ во благо человечества», – заявила она.
Директор Центра ИИ МГИМО, научный руководитель магистратуры «Искусственный интеллект» Анна Абрамова добавила, что, по ее мнению, этика лежит в основе всех вопросов, связанных с нейросетями. Она напомнила, что в некоторых государствах уже есть соответствующее законодательство. А основатель, генеральный директор The AI SCHOOL и DeepAnnotate.ai Ганта Сринатх Редди (Индия) назвал четыре «колонны», на которых, по его мнению, «зиждется здание» работы с ИИ. Это критическое мышление, коммуникация, творческий подход и сотрудничество.
«При работе с генеративными моделями важно, чтобы этические принципы были четкими, а границы – понятными. Если эти принципы используются, то вы сможете объясниться с любым коллегой в любом офисе. Нужно, чтобы в любой организации было понимание, что в центре стоит принцип человечности. Придет день, когда мы будем полностью зависеть от роботов. Не надо этого пугаться, надо с этим существовать», – считает Редди.
Генеральный директор Fadwa AlBawardi Consulting Office (Саудовская Аравия) Фадва Аль Баварди отметила, что чем сложнее становятся технологии, тем выше риски для этики.
«Есть ИИ-агенты, оказывающие услуги, где контроль вообще не нужен. Но есть те, чьи действия влияют на общество, мораль, эффективность. Нужно их классифицировать, нельзя все ИИ причесывать под одну гребенку» – сказала Аль Баварди.
Заместитель председателя правления, управляющий директор Фонда «Сколково» Сергей Израйлит спрогнозировал большие изменения на рынке труда: «Я вижу, что ИИ в течение ближайших двух-трех лет кардинально изменит ситуацию. Технооптимисты предсказывают, что от 20 до 60% людей в мире потеряют работу».
Президент МТП Ньюдиамед, основатель MeDiCase Андрей Воробьев рассказал об особенностях использования ИИ в медицине.
«ИИ помогает и сокращает нагрузку, но существует риск того, что врачи расслабятся и начнут чрезмерно ему доверять. Это – риск потери автономности, возможности принимать решения, за которые несут ответственность врачи. Есть и другая точка зрения: страховые компании используют нейросети, чтобы проверить историю работы врачей. Если находятся ошибки, то врачу становится сложно защититься, и эта дорога приведет нас к моменту, когда разные системы будут спорить между собой. Пациенты тоже используют ИИ: они получают разные мнения от разных врачей. Иногда пациент разочаровывается во враче, врач проигрывает, и это отрицательно влияет на качество оказываемой помощи» – поделился эксперт.
Руководитель координационного подразделения Управления ООН по цифровым и новым технологиям (UN ODET) Исабель де Сола Криадо затронула тему кибербезопасности:
«Пока у нас не было технологии, которая может работать без нашего участия. Но сейчас ситуация изменилась. Сегодня я общалась со специалистами по кибербезопасности – преступные элементы тоже могут использовать ИИ. Нам необходим план на случай, если что-то пойдет не так, чтобы люди могли объединиться». По мнению Исабель де Сола Криадо, выбирать между инновациями и безопасностью нельзя.
По итогам дискуссии ее участники согласились, что обсуждаемые вопросы универсальны для всех стран, и договорились продолжить общение.
