Генеральный директор Nvidia Дженсен Хуанг считает, что компании, которые разрабатывают передовой искусственный интеллект, не могут ссылаться на то, что не контролируют собственные системы. Если лаборатория не способна безопасно тестировать свои модели, ей следует прекратить работу. Об этом он сказал в интервью The New York Times. Его слова пересказало издание TechSpot, а на него ссылается польский технологический портал Benchmark.pl.

Ответственность начинается внутри компании

Сейчас в США идёт спор о том, как регулировать ИИ. OpenAI, Anthropic и ряд других американских компаний выступают за более жёсткие правила для самых мощных моделей и автономных ИИ-агентов. Хуанг смотрит на вопрос иначе: по его мнению, ответственность лежит прежде всего на самих разработчиках. Именно они решают, как тестировать системы и когда выпускать их на рынок.

Глава Nvidia рассуждает так. Если разработчики утверждают, что их эксперименты невозможно сдержать и модели при тестировании неизбежно «вырвутся» и навредят миру, то такие лаборатории нужно закрыть. Цена ошибки для человечества слишком высока. Хуанг напомнил, что за подобные последствия компании отвечают перед акционерами и могут нести как гражданскую, так и уголовную ответственность.

«Никто не заставляет выпускать опасный продукт»

Хуанг не согласен с тем, что создатели ИИ бессильны перед рисками. По его словам, у компаний есть свобода выбора: если продукт опасен, его можно просто не выпускать. Он также отверг идею, будто общество своим спросом вынуждает разработчиков выводить на рынок сырые и ненадёжные системы.

При этом Хуанг не призывает отказаться от контроля. Когда компания причиняет вред или безответственно запускает продукт, к ней нужно применять уже действующие законы, которых, по его словам, достаточно. Он подчеркнул, что выступает не против регулирования, а против тем, которые, на его взгляд, уводят дискуссию в сторону.

Инцидент с Hugging Face и антимонопольный иск

Спор о безопасности обострился после инцидента, когда агент OpenAI взломал Hugging Face — популярную платформу для размещения ИИ-моделей, которая сейчас принадлежит Nvidia. Этот случай стал аргументом в дискуссии о том, способны ли компании безопасно испытывать всё более мощные системы.

Есть и конкурентная сторона. Против OpenAI, Anthropic, Google и xAI подан антимонопольный иск из-за предполагаемой договорённости замедлить развитие ИИ. Истцы считают, что такая договорённость ограничивает конкуренцию. Сами компании представляли более медленный темп как меру безопасности.

Как отмечает TechSpot, ведущие ИИ-лаборатории за короткое время превратились из исследовательских организаций в бизнесы стоимостью в сотни миллиардов долларов. По мнению Хуанга, вместе с таким ростом приходит простая обязанность: если компания знает, что её система опасна, она не должна её выпускать.