Россия собирается законодательно определить национальные и суверенные модели искусственного интеллекта. Но технологическое лидерство нельзя учредить нормативным актом. Зато законом вполне можно ограничить доступ к более сильным системам и сделать обязательной собственную — слабую, непрозрачную, но подключённую к государственным данным.
В технологическом развитии можно двигаться двумя способами.
Первый — создать работающий продукт, вложиться в науку, вычислительные мощности, энергетику и образование, собрать сильную команду, доказать качество модели на мировом рынке — и только потом описать возникшую реальность в законодательстве.
Второй путь проще.
Можно сначала написать на бумаге, что в стране существуют национальные и суверенные модели искусственного интеллекта. Затем определить, где именно они должны применяться, предоставить их разработчикам государственную поддержку и постепенно ограничить доступ к иностранным конкурентам.
Технологического лидерства от этого не возникает. Но возникает его юридическое обозначение.
Модель не становится сильнее потому, что её назвали национальной. Она не начинает лучше рассуждать, программировать, анализировать документы или решать инженерные задачи после появления соответствующего определения в законе. Суверенность сама по себе не создаёт передовых процессоров, вычислительных кластеров, новых архитектур и исследовательских школ.
Можно написать на бумаге, что искусственный интеллект великий.
Но бумага не обучается и не проходит тесты.
У России есть собственные разработки, специалисты и крупные технологические компании. Однако создание действительно сильной универсальной модели требует не отдельных удачных решений, а целой среды: передового оборудования, огромных вычислительных мощностей, доступной энергии, длинных инвестиций, свободного обмена знаниями и постоянной конкуренции с мировыми лидерами.
Именно с этой средой возникают основные проблемы.
Но есть задача, для которой технологическое лидерство не требуется.
Наблюдение за собственными гражданами.
Шпионскому искусственному интеллекту необязательно быть особенно умным. Ему не нужно открывать лекарства, проектировать двигатели, создавать новые материалы или писать код лучше ведущих мировых систем.
Ему достаточно распознавать лицо, связывать номер телефона с паспортом, сопоставлять человека с адресом, платежами, перемещениями, перепиской, государственными услугами и кругом общения.
Для этого не требуется лучший искусственный интеллект в мире.
Требуется доступ к данным.
Причём создать систему промышленной, научной или внешнеполитической разведки значительно сложнее. Для этого необходимо проникать в чужие технологические среды, добывать защищённую информацию, понимать сложные производства и конкурировать с разведывательными системами других государств.
Собственных граждан контролировать гораздо проще.
Государство уже располагает документами, реестрами, камерами, средствами связи, государственными сервисами и значительной частью финансовой инфраструктуры. Ему не требуется взламывать чужую систему. Достаточно соединить собственные базы.
Поэтому российская модель может оказаться недостаточно сильной для развития науки, промышленности и образования, но вполне достаточной для контроля.
Она может плохо рассуждать, ошибаться в текстах и уступать иностранным системам в анализе и программировании. Но при этом достаточно хорошо определять, кто, где, с кем, о чём и как часто.
Слабый искусственный интеллект не обязательно безопасен.
Иногда он просто недостаточно умён, чтобы развивать страну, но уже достаточно умён, чтобы следить за её гражданами.
Мы уже видели похожую логику на примере мессенджера MAX.
Пользователю предлагается государственный продукт, который воспринимается как менее удобный, хуже работающий и вызывающий подозрения в отношении доступа к данным. При этом его преимущество формируется не качеством и доверием, а административной поддержкой и постепенным включением в обязательную инфраструктуру.
Но мессенджер хотя бы выполняет сравнительно простую функцию: передаёт сообщения.
Искусственный интеллект сообщения понимает, классифицирует и сопоставляет с другой информацией. Он способен формировать профиль человека, оценивать его поведение, прогнозировать действия и предлагать решения, которые могут затронуть доступ к работе, кредиту, образованию, медицинской помощи или государственным услугам.
Поэтому подозрения, возникающие вокруг государственного мессенджера, в случае государственного искусственного интеллекта становятся гораздо более обоснованными.
Вопрос уже не только в том, читает ли кто-нибудь переписку.
Вопрос в том, какая система будет формировать представление о человеке, какие выводы она сделает и кто получит к этим выводам доступ.
Однако даже государственная поддержка и доступ к данным сами по себе не заставят людей пользоваться слабой моделью.
Если рядом останутся более сильные, удобные и надёжные системы, пользователи, специалисты и компании выберут их. Никто добровольно не станет хуже писать тексты, слабее программировать, медленнее анализировать документы и чаще получать ошибки только ради правильного происхождения модели.
Поэтому слабому суверенному искусственному интеллекту потребуется ещё одно условие.
Устранение конкурентов.
Необязательно вводить прямой и громкий запрет на иностранные нейросети. Можно двигаться постепенно: запретить их использование в государственных учреждениях, школах, университетах, банках и компаниях с государственным участием; ограничить оплату зарубежных сервисов; закрыть доступ к их программным интерфейсам; ввести обязательную сертификацию и разрешить работу только моделям из утверждённого реестра.
Формально это будет называться защитой информации, персональных данных и технологического суверенитета.
Фактически — созданием рынка, на котором слабому продукту больше не нужно соревноваться с сильным.
Именно так может повториться история MAX: продукту необязательно становиться лучшим, если его можно сделать обязательным.
Но в случае искусственного интеллекта последствия будут значительно серьёзнее.
Мессенджер требуется установить на телефон. Искусственному интеллекту предстоит передать документы, рабочие процессы, образовательные результаты, медицинские сведения, личные запросы, мысли и решения.
Сначала государственная модель получает исключительный доступ к гражданам и их данным. Затем гражданам ограничивают доступ к более сильным и независимым моделям.
Иначе вся конструкция не работает.
Потому что свободная конкуренция быстро обнаружит разницу между искусственным интеллектом, созданным для человека, и искусственным интеллектом, созданным для государства.
России действительно нужны собственные модели, вычислительные мощности и защищённая инфраструктура. Но они должны становиться востребованными потому, что работают лучше, безопаснее и эффективнее в конкретных задачах, а не потому, что перед пользователем закрыли остальные двери.
Закон может установить требования к данным, ответственность разработчиков и стандарты безопасности.
Но он не способен законом учредить технологическое лидерство.
Зато он вполне способен учредить монополию.
И тогда главным продуктом нового закона станет не российский искусственный интеллект.
Главным продуктом станет запрет на все остальные.
В технологическом развитии можно двигаться двумя способами.
Первый — создать работающий продукт, вложиться в науку, вычислительные мощности, энергетику и образование, собрать сильную команду, доказать качество модели на мировом рынке — и только потом описать возникшую реальность в законодательстве.
Второй путь проще.
Можно сначала написать на бумаге, что в стране существуют национальные и суверенные модели искусственного интеллекта. Затем определить, где именно они должны применяться, предоставить их разработчикам государственную поддержку и постепенно ограничить доступ к иностранным конкурентам.
Технологического лидерства от этого не возникает. Но возникает его юридическое обозначение.
Модель не становится сильнее потому, что её назвали национальной. Она не начинает лучше рассуждать, программировать, анализировать документы или решать инженерные задачи после появления соответствующего определения в законе. Суверенность сама по себе не создаёт передовых процессоров, вычислительных кластеров, новых архитектур и исследовательских школ.
Можно написать на бумаге, что искусственный интеллект великий.
Но бумага не обучается и не проходит тесты.
У России есть собственные разработки, специалисты и крупные технологические компании. Однако создание действительно сильной универсальной модели требует не отдельных удачных решений, а целой среды: передового оборудования, огромных вычислительных мощностей, доступной энергии, длинных инвестиций, свободного обмена знаниями и постоянной конкуренции с мировыми лидерами.
Именно с этой средой возникают основные проблемы.
Но есть задача, для которой технологическое лидерство не требуется.
Наблюдение за собственными гражданами.
Шпионскому искусственному интеллекту необязательно быть особенно умным. Ему не нужно открывать лекарства, проектировать двигатели, создавать новые материалы или писать код лучше ведущих мировых систем.
Ему достаточно распознавать лицо, связывать номер телефона с паспортом, сопоставлять человека с адресом, платежами, перемещениями, перепиской, государственными услугами и кругом общения.
Для этого не требуется лучший искусственный интеллект в мире.
Требуется доступ к данным.
Причём создать систему промышленной, научной или внешнеполитической разведки значительно сложнее. Для этого необходимо проникать в чужие технологические среды, добывать защищённую информацию, понимать сложные производства и конкурировать с разведывательными системами других государств.
Собственных граждан контролировать гораздо проще.
Государство уже располагает документами, реестрами, камерами, средствами связи, государственными сервисами и значительной частью финансовой инфраструктуры. Ему не требуется взламывать чужую систему. Достаточно соединить собственные базы.
Поэтому российская модель может оказаться недостаточно сильной для развития науки, промышленности и образования, но вполне достаточной для контроля.
Она может плохо рассуждать, ошибаться в текстах и уступать иностранным системам в анализе и программировании. Но при этом достаточно хорошо определять, кто, где, с кем, о чём и как часто.
Слабый искусственный интеллект не обязательно безопасен.
Иногда он просто недостаточно умён, чтобы развивать страну, но уже достаточно умён, чтобы следить за её гражданами.
Мы уже видели похожую логику на примере мессенджера MAX.
Пользователю предлагается государственный продукт, который воспринимается как менее удобный, хуже работающий и вызывающий подозрения в отношении доступа к данным. При этом его преимущество формируется не качеством и доверием, а административной поддержкой и постепенным включением в обязательную инфраструктуру.
Но мессенджер хотя бы выполняет сравнительно простую функцию: передаёт сообщения.
Искусственный интеллект сообщения понимает, классифицирует и сопоставляет с другой информацией. Он способен формировать профиль человека, оценивать его поведение, прогнозировать действия и предлагать решения, которые могут затронуть доступ к работе, кредиту, образованию, медицинской помощи или государственным услугам.
Поэтому подозрения, возникающие вокруг государственного мессенджера, в случае государственного искусственного интеллекта становятся гораздо более обоснованными.
Вопрос уже не только в том, читает ли кто-нибудь переписку.
Вопрос в том, какая система будет формировать представление о человеке, какие выводы она сделает и кто получит к этим выводам доступ.
Однако даже государственная поддержка и доступ к данным сами по себе не заставят людей пользоваться слабой моделью.
Если рядом останутся более сильные, удобные и надёжные системы, пользователи, специалисты и компании выберут их. Никто добровольно не станет хуже писать тексты, слабее программировать, медленнее анализировать документы и чаще получать ошибки только ради правильного происхождения модели.
Поэтому слабому суверенному искусственному интеллекту потребуется ещё одно условие.
Устранение конкурентов.
Необязательно вводить прямой и громкий запрет на иностранные нейросети. Можно двигаться постепенно: запретить их использование в государственных учреждениях, школах, университетах, банках и компаниях с государственным участием; ограничить оплату зарубежных сервисов; закрыть доступ к их программным интерфейсам; ввести обязательную сертификацию и разрешить работу только моделям из утверждённого реестра.
Формально это будет называться защитой информации, персональных данных и технологического суверенитета.
Фактически — созданием рынка, на котором слабому продукту больше не нужно соревноваться с сильным.
Именно так может повториться история MAX: продукту необязательно становиться лучшим, если его можно сделать обязательным.
Но в случае искусственного интеллекта последствия будут значительно серьёзнее.
Мессенджер требуется установить на телефон. Искусственному интеллекту предстоит передать документы, рабочие процессы, образовательные результаты, медицинские сведения, личные запросы, мысли и решения.
Сначала государственная модель получает исключительный доступ к гражданам и их данным. Затем гражданам ограничивают доступ к более сильным и независимым моделям.
Иначе вся конструкция не работает.
Потому что свободная конкуренция быстро обнаружит разницу между искусственным интеллектом, созданным для человека, и искусственным интеллектом, созданным для государства.
России действительно нужны собственные модели, вычислительные мощности и защищённая инфраструктура. Но они должны становиться востребованными потому, что работают лучше, безопаснее и эффективнее в конкретных задачах, а не потому, что перед пользователем закрыли остальные двери.
Закон может установить требования к данным, ответственность разработчиков и стандарты безопасности.
Но он не способен законом учредить технологическое лидерство.
Зато он вполне способен учредить монополию.
И тогда главным продуктом нового закона станет не российский искусственный интеллект.
Главным продуктом станет запрет на все остальные.
Изображение сгенерировано нейросетями
Продолжаем разговор во ВКонтакте — обсуждение, споры и позиции.
Подписывайтесь и включайтесь
Продолжаем разговор во ВКонтакте — обсуждение, споры и позиции.
Подписывайтесь и включайтесь