ООН пытается поставить ИИ в рамки раньше, чем он окончательно станет новой мировой инфраструктурой
В Женеве прошёл первый межправительственный глобальный диалог ООН по управлению искусственным интеллектом, и уже само появление такого формата показывает, что ИИ окончательно вышел из зоны технологического энтузиазма и стал частью большой политики, социальной безопасности и нового неравенства между странами. Генеральный секретарь ООН Антониу Гутерриш заявил, что ИИ развивается быстрее, чем за ним успевают регуляторы, а значит, вопрос уже не в том, разрешать или запрещать технологию, а в том, кто и на каких условиях будет определять правила для систем, способных менять экономику, рынок труда, выборы, безопасность и образование.
Особенно важно, что в центре разговора оказались не абстрактные риски, а дети, потому что именно они первыми входят в мир, где ИИ может быть собеседником, помощником, учителем, другом, манипулятором и источником опасного контента одновременно. Гутерриш предложил обязательство AI Child Safety Pledge, по которому компании должны доказывать безопасность ИИ-систем для детей до того, как эти системы становятся им доступны, и это превращает разговор об ИИ в разговор о новой санитарной норме цифровой среды, где алгоритм уже нельзя считать нейтральной игрушкой.
Обратить внимание здесь стоит не только на тему детской защиты, но и на более широкий конфликт вокруг доступа к вычислительной мощности и права развивающихся стран участвовать в создании правил. По данным независимой научной панели ООН, 75% вычислительной мощности среди 500 крупнейших ИИ-суперкомпьютеров приходится на США, ещё 15% — на Китай, а значит, за разговорами о «глобальном ИИ» фактически стоит очень узкая инфраструктурная база, контролируемая несколькими государствами и корпорациями.
Для нас это важная новость не потому, что ООН немедленно напишет универсальный договор, а потому, что впервые на таком уровне фиксируется новая реальность: искусственный интеллект больше нельзя описывать как приложение, сервис или модную технологию, потому что он становится средой, в которой человек учится, работает, общается, ошибается, взрослеет и принимает решения, а значит, вопрос управления ИИ становится вопросом устройства общества.