ООН выпустила первую глобальную научную оценку ИИ — и сразу столкнулась с вопросом о собственных полномочиях

Независимая международная научная группа ООН по искусственному интеллекту 1 июля представила предварительный доклад о возможностях, рисках и последствиях развития ИИ. Документ будет обсуждаться 6–7 июля на первом Глобальном диалоге по управлению искусственным интеллектом в Женеве. Более полный ежегодный доклад группа планирует подготовить в 2027 году.

ООН называет группу первым глобальным научным органом, полностью посвящённым искусственному интеллекту. В неё вошли 40 специалистов из разных регионов и дисциплин — от машинного обучения и экономики до медицины, философии, прав человека и журналистики. Сопредседателями стали лауреат премии Тьюринга, один из основоположников современного глубокого обучения Йошуа Бенжио и лауреат Нобелевской премии мира, журналист Мария Ресса. Эксперты были отобраны из более чем 2600 кандидатов, представлявших свыше 140 стран, и формально работают в личном качестве, а не как представители своих правительств или работодателей.

Что установила группа

Главный вывод доклада состоит не в том, что искусственный интеллект непременно приведёт к катастрофе, а в том, что развитие его возможностей опережает способность общества достоверно измерять последствия и управлять ими.

Авторы называют это «дилеммой доказательств». Государствам необходимы надёжные данные, прежде чем принимать серьёзные решения. Но к тому моменту, когда последствия новой технологии будут окончательно доказаны, модели, способы их применения и структура рынка могут уже измениться. Поэтому власти вынуждены выбирать между преждевременным регулированием на основании неполных сведений и запоздалым вмешательством после возникновения труднообратимых последствий.

Группа признаёт значительный положительный потенциал ИИ. Уже сейчас системы машинного обучения применяются в научных исследованиях, здравоохранении, сельском хозяйстве, образовании, обеспечении доступности и работе с информацией. Однако сами по себе технологические возможности не гарантируют общественной пользы: результат зависит от качества данных, устройства институтов, профессиональной подготовки пользователей и того, кому принадлежат инфраструктура и модели.

Одновременно авторы фиксируют риски, которые существуют уже сегодня: распространение мошенничества, сексуализированных дипфейков и материалов с насилием над детьми, персонализированная политическая манипуляция, кибератаки, ошибки в медицине, психологическая зависимость пользователей и постепенное разрушение доверия к информации. Более мощные автономные системы могут добавить к ним новые угрозы — от обмана со стороны моделей до утраты человеком контроля над действиями ИИ-агентов.

При этом доклад не утверждает, что катастрофический сценарий неизбежен или даже наиболее вероятен. Формулировка группы осторожнее: современная наука пока не может гарантировать, что по мере роста возможностей ИИ такие системы не причинят катастрофического ущерба самостоятельно либо в руках злоумышленников. Это важное различие между предупреждением о недостатке контроля и прогнозом неминуемой катастрофы.

Неравенство важнее доступности

Одной из центральных тем доклада стала концентрация вычислительных ресурсов, данных и исследовательских возможностей.

По оценке авторов, на США приходится около 75 процентов вычислительной мощности крупнейших мировых ИИ-кластеров, ещё примерно 15 процентов — на Китай. Более миллиарда человек еженедельно используют разговорные системы ИИ, однако их распространение между странами остаётся крайне неравномерным. Большинство государств, включая многие развитые экономики, не располагают специалистами и инфраструктурой, необходимыми для самостоятельной оценки наиболее мощных моделей.

Отсюда следует один из наиболее содержательных выводов документа: доступ к иностранному чат-боту ещё не означает технологического суверенитета. Страна может пользоваться моделью, но не иметь возможности проверить её, изменить правила работы, адаптировать к местному языку или влиять на стандарты безопасности.

Особенно заметно это в языковой сфере. В мире существует более семи тысяч языков, но современные модели качественно работают только с небольшой их частью. Доклад приводит примеры опасных ошибок автоматического перевода медицинских рекомендаций на языки, недостаточно представленные в обучающих данных. В таких случаях цифровое неравенство превращается уже не в вопрос удобства, а в риск для здоровья и жизни.

Авторы также предупреждают, что концентрация ИИ у небольшого числа компаний и государств создаёт не только экономическую, но и политическую зависимость. Владельцы вычислительной инфраструктуры получают возможность определять стандарты, контролировать доступ к технологиям и влиять на информационную среду других стран.

Зачем понадобилась международная научная группа

Главная проблема состоит в том, что значительная часть знаний о передовых моделях сегодня принадлежит тем же компаниям, которые их создают и продают.

Разработчики видят внутренние результаты испытаний, реальные способы использования систем, число инцидентов и поведение моделей после запуска. Университеты, независимые лаборатории и государственные органы получают только ту часть информации, которую компании готовы предоставить. На презентации доклада Мария Ресса сформулировала это предельно прямо: разработчики наблюдают работу систем в реальном мире, тогда как все остальные видят главным образом выбранные ими данные.

Поэтому ценность инициативы ООН заключается не столько в ещё одном перечне рисков, сколько в попытке создать источник знаний, не принадлежащий отдельному государству или корпорации. Для стран, у которых нет собственных лабораторий уровня ведущих технологических компаний, такой источник может стать единственной возможностью участвовать в международных переговорах не вслепую.

Сторонники панели считают, что ООН подходит для этой роли лучше национальных правительств или объединений развитых стран: в её работе могут участвовать государства, которые не обладают собственными моделями, дата-центрами и вычислительными кластерами, но всё равно столкнутся с последствиями распространения ИИ. Научная группа должна предоставить им общую фактическую основу, а политические решения предполагается обсуждать отдельно — на Глобальном диалоге по управлению ИИ.

Почему США выступили против

Назначение состава группы в феврале 2026 года поддержали 117 государств. США и Парагвай проголосовали против, Тунис и Украина воздержались.

Представитель США назвала инициативу чрезмерным расширением мандата ООН и заявила, что управление ИИ не должно определяться международным органом, на который могут влиять авторитарные государства. Вашингтон также поставил под сомнение прозрачность отбора участников группы. Украина объяснила воздержание включением в состав российского специалиста по регулированию и этике ИИ.

За этой позицией стоит более фундаментальное разногласие. Одна модель предполагает, что международные риски требуют глобальной площадки и общего языка научных фактов. Другая исходит из того, что попытка выработать единый подход неизбежно превратится в политический торг между странами с несовместимыми представлениями о свободе слова, наблюдении, безопасности и роли государства.

С американской точки зрения, международные механизмы могут замедлить инновации и дать влияние странам, которые сами используют технологии для контроля населения. С точки зрения сторонников ООН, отсутствие глобального механизма оставляет основные решения за несколькими американскими и китайскими корпорациями — структурами, которые тоже не обладают международной демократической легитимностью.

Обе претензии имеют основания. Государства действительно способны политизировать научную экспертизу. Но и передача фактического контроля частным разработчикам не делает систему нейтральной или независимой.

Научный орган, который ничего не регулирует

Группа ООН не может запрещать модели, устанавливать обязательные стандарты, проводить принудительные проверки или наказывать компании. Её мандат ограничивается анализом научных данных. Даже рекомендации предполагается формулировать осторожно: доклады должны быть значимыми для политики, но не предписывать государствам конкретные решения.

Это одновременно сильная и слабая сторона конструкции.

Разделение науки и политики позволяет подготовить документ, который смогут использовать правительства с разными идеологиями и интересами. Бенжио и Ресса объяснили, что прямые политические рекомендации сделали бы группу участником переговоров и могли бы подорвать доверие к её научным выводам.

Но возникает очевидный вопрос: насколько полезен орган, который предупреждает о срочности проблемы, но принципиально не говорит, какие меры необходимо принять? На пресс-конференции журналисты прямо спрашивали, почему группа не предложила международную систему обязательной проверки наиболее мощных моделей перед их выпуском. Представители панели ответили, что такие решения относятся к полномочиям государств.

Опыт климатической политики показывает пределы подобной модели. Научные доклады способны создать общий язык и изменить общественное представление о проблеме, но сами по себе не гарантируют действий. Если правительства не договорятся о проверках, доступе независимых исследователей к моделям и ответственности разработчиков, панель может остаться авторитетным наблюдателем процесса, которым она не способна управлять.

Насколько группа действительно независима

Формально участники работают в личном качестве, однако полная независимость в современной науке об ИИ труднодостижима.

Исследования передовых моделей требуют вычислительных ресурсов и данных, которыми располагают главным образом крупные компании. Четыре участника панели занимают основные должности в американских технологических корпорациях. Это не означает, что их выводы заведомо предвзяты, но создаёт необходимость в прозрачных правилах раскрытия конфликтов интересов и отбора доказательств.

Есть и противоположный риск: чрезмерное влияние государств или самой бюрократии ООН. В отличие от Межправительственной группы экспертов по изменению климата, новая структура пока не имеет многолетней традиции рецензирования, устойчивых процедур согласования и подробно разработанной системы взаимодействия между учёными и правительствами. Правила работы ей приходится создавать практически с нуля.

Предварительный доклад был подготовлен примерно за полтора месяца, а использованные в нём данные охватывают период только до мая 2026 года. Сама Мария Ресса признала, что для столь быстро меняющейся области даже эти сведения уже начинают устаревать. Скорость позволяет группе реагировать на развитие технологий быстрее традиционных международных научных организаций, но одновременно ограничивает глубину проверки и научного рецензирования.

Чего в докладе пока нет

Авторы достаточно честно обозначают зоны неопределённости. Наука пока не позволяет уверенно оценить долгосрочное влияние ИИ на занятость, макроэкономику и распределение доходов. Существующие исследования нередко используют данные, собранные один-два года назад, то есть до появления последних поколений систем.

Первые признаки более сильного воздействия на молодых работников уже наблюдаются, но имеющихся данных недостаточно, чтобы говорить о масштабном разрушении рынка труда. Экономические прогнозы различаются потому, что исследователи исходят из совершенно разных предположений о возможностях ИИ через два или пять лет.

Не хватает и сопоставимых сведений об экологическом воздействии. Компании по-разному считают потребление энергии и воды, а общепринятой системы оценки полного жизненного цикла моделей и дата-центров пока нет. Без единых стандартов невозможно достоверно сравнить экологическую эффективность разных систем.

Тем самым доклад важен ещё и тем, что показывает границы имеющегося знания. Он отделяет уже доказанные последствия от вероятных сценариев и от областей, где уверенные заявления пока невозможны.

Что будет дальше

Первым испытанием для инициативы станет встреча в Женеве 6–7 июля. Главный вопрос заключается не в том, согласятся ли участники с общими утверждениями о пользе и рисках ИИ, а в том, готовы ли они создать практические механизмы получения независимых данных.

К таким механизмам могут относиться доступ государственных и академических исследователей к результатам испытаний моделей, единые стандарты экологической отчётности, независимая оценка систем после их запуска, национальные институты безопасности ИИ и развитие технических компетенций за пределами США, Китая и нескольких других государств. Именно недостаток доступа, стандартов и исследовательских возможностей авторы называют главными препятствиями для объективного контроля.

Создание группы ООН не означает появления мирового регулятора искусственного интеллекта. Пока это попытка создать мировую научную экспертизу там, где большая часть знаний, вычислений и денег сосредоточена внутри частных корпораций.

Её успех будет зависеть не от громкости предупреждений, а от трёх вещей: прозрачности собственной работы, реального доступа к корпоративным данным и готовности государств превращать научные выводы в конкретные решения.

Без этого группа рискует стать ещё одной площадкой, на которой мир подробно и профессионально описывает процесс, продолжая практически им не управлять.

Изображение сгенерировано нейросетью

Продолжаем разговор во ВКонтакте — обсуждение, споры и позиции.
Подписывайтесь и включайтесь