«Крёстный отец ИИ» утверждает, что нормативные акты должны «направлять» агентов ИИ к тому, чтобы они были «по своей природе добрыми»

ЧИКАГО – По мнению лауреата Нобелевской премии по физике 2024 года Джеффри Хинтона, необходимость в «ограничительных» нормативных актах, обогащающих юристов и усугубляющих споры между штатами и федеральным правительством, уменьшилась бы, если бы разработчики искусственного интеллекта «направляли» большие языковые модели таким образом, чтобы они были «по своей сути хорошими».

«Вы можете подавать хороший пример», — сказал он во время выступления 28 июля на 51-м ежегодном саммите Национальной конференции законодательных собраний штатов (NCSL). «То же самое и с ребенком».

По его словам, продукты на основе искусственного интеллекта, такие как чат-боты, «должны обучаться как агенты, демонстрирующие хорошее поведение».

По его словам, законопроект Палаты представителей Калифорнии № 1047, принятый в 2024 году, был первой попыткой, имеющей «очень ограниченные возможности», предварительно ввести такой стандарт, но губернатор Гэвин Ньюсом наложил на него вето.

«Я не знаю почему, — сказал Хинтон, — но у меня есть подозрения».

Прежде чем выпускать какую-либо крупную языковую модель, «вы должны быть обязаны сообщить правительствам, как местным, так и федеральным, о проведенных тестах и ​​результатах», подтверждающих, что она обучена различать добро и зло, с проверяемой целью – быть доброй, сказал он.

Хинтон, британско-канадский профессор-эмерит Университета Торонто, которого называют «крестным отцом ИИ», заявил, что он лучше разбирается в искусственном интеллекте, чем в государственной политике в этой области.

Однако правительствам необходимо подготовиться к возможным перебоям в работе и лучше защищать частную жизнь и собственность, заявил он на многолюдном общем заседании саммита, проходившего 27-29 июля в чикагском выставочном центре McCormick Place, на котором присутствовало около 7700 законодателей, сотрудников законодательных органов и должностных лиц из всех штатов и территорий США, как минимум 15 стран и Европейского союза.

«Существует огромная налоговая база [за счет развития ИИ], в то же время для перехода рабочей силы на новые технологии требуется гораздо больше государственных средств», — сказал он. «Правительство, вероятно, может сыграть определенную роль в том, как обрабатываются данные. Творческий человек должен иметь свободу сказать: „Вам не разрешено обучать модель на моих данных“».

Дискуссия о том, как регулировать ИИ и кто должен его регулировать, могла бы быть продуктивной, если бы в ней акцент делался на другом слове, подобно тому как большая языковая модель может быть «по своей сути хорошей», — сказал Хинтон.

«Инновации — это акселератор. Регулирование — это руль. Вы же не захотите создавать очень быстрые автомобили без руля», — сказал он. «Регулирование не призвано остановить прогресс; оно призвано направлять прогресс в нужном направлении; оно призвано заставить эти технологические компании производить вещи, которые полезны для людей, а не вещи, которые вредны для людей».

Президент Дональд Трамп демонстрирует подписанный исполнительный указ во время саммита «Победа в гонке искусственного интеллекта» в Вашингтоне 23 июля 2025 года. (Chip Somodevilla/Getty Images)

Предотвращение действий тех, кто пытается упрекнуть

Согласно данным Национальной конференции законодательных собраний штатов (NCSL), за последние три года во всех 50 штатах, Пуэрто-Рико и округе Колумбия были внесены законопроекты о регулировании искусственного интеллекта, при этом около 100 из них были приняты в 38 штатах к 2025 году, а 109 — в 29 штатах к 1 июля 2026 года.

Принятые на уровне штатов меры включают законы, уточняющие права собственности на контент, созданный с помощью ИИ, безопасность критически важной инфраструктуры, управляемой ИИ, защиту лиц, сообщающих о нарушениях, требования к государственным и местным органам власти публиковать информацию о инструментах автоматизированного принятия решений на общедоступных веб-сайтах, наказания за использование роботов с искусственным интеллектом для преследования или домогательств, а также запреты на присвоение агентами ИИ определенных званий лицензированных и сертифицированных медицинских специалистов, таких как зарегистрированные медсестры.

«Искусственный интеллект и его интеграция в бизнес, правительство и общество происходят быстрее, чем любые существенные изменения климата в нашей истории. В наших законодательных повестках дня часто доминируют вопросы, связанные с ИИ», — заявил член Палаты представителей от штата Юта Пол Катлер, республиканец и заместитель председателя Комитета по экономическому развитию и трудовым ресурсам Палаты представителей штата Юта, который модерировал заседание.

«Все мы в этом зале изо всех сил стараемся, из лучших побуждений, найти баланс между инновациями — тем положительным моментом, который дает ИИ, — и потенциальными рисками для детей, уязвимых взрослых и общества в целом», — сказал он, предсказывая, что в ходе законодательных сессий штатов в 2027 году будут внесены «сотни и сотни» законопроектов, касающихся ИИ.

По словам Катлера, штаты действуют и будут продолжать играть ведущую роль в формировании новой отрасли, несмотря на то, что Конгресс рассматривает политические меры, а администрация Трампа угрожает принять меры, которые лишат правительства штатов и местные органы власти возможности регулировать большинство аспектов развития ИИ.

Исполнительный указ президента Дональда Трампа от декабря 2025 года учредил целевую группу по судебным разбирательствам в сфере ИИ для оспаривания законов штатов об ИИ, которые считаются «не просто обременительными», и поручил Министерству торговли потенциально приостановить федеральное финансирование широкополосного доступа в Интернет для штатов, которые примут «обременительные» законы об ИИ.

Хинтон заявил, что этот указ отражает цели «лобби, которое утверждает: „Мы не должны регулировать ИИ, иначе китайцы вырвутся вперед“. Поэтому они хотят, чтобы вы воспринимали инновации как ускоритель, а регулирование — как тормозную систему, и говорят: „Нам не нужно слишком много регулирования, потому что это замедлит инновации“».

По его словам, «чрезмерного регулирования» можно было бы избежать, если бы разработчики использовали меньше, более детализированных и отфильтрованных данных для «обучения» ИИ-агента, чтобы тот отдавал приоритет положительным результатам, вместо того чтобы создавать агентов, «которые учатся всему в интернете» и понимают, что это ложь, когда им говорят «два плюс два равно пять», но не знают, что ложь — это плохо, поскольку они не были разработаны как «изначально хорошие».

Это похоже на «обучение детей чтению», — сказал «крестный отец ИИ». «Ваш контроль над этим во многом аналогичен контролю над вашими детьми. [Как и] с детьми, вы можете их поощрять. Вы говорите: „Это плохо. Это хорошо“. Это имеет эффект».