обязательный ИИ — Предлагается ввести обязательный скрининг ИИ в качестве критического требования для компаний, претендующих на выгодные контракты с правительством США. Это происходит на фоне того, что группа защиты интересов призывает администрацию Трампа проверить перед их публичным выпуском продвинутые модели искусственного интеллекта на предмет потенциальных угроз безопасности.
- По мере продолжения обсуждений взаимодействия ИИ и национальной безопасности, результаты этих предложений могут сформировать ландшафт развития ИИ и его применение в правительственных проектах.
Обязательный ИИ: беспокойства по поводу моделей ИИ и национальной безопасности
Белый дом в настоящее время оценивает последствия модели ИИ компании Anthropic под названием Mythos, которая, как сообщается, способна упростить проведение сложных кибератак. Эта функция вызывает значительные опасения в области национальной безопасности, что побуждает организацию Americans for Responsible Innovation выступать за тщательную проверку.
Предлагаемый процесс проверки разработчиков ИИ
В письме официальным лицам администрации группа защиты интересов подчеркнула необходимость разработки систематических методов оценки новых передовых моделей ИИ. Целью этого обзора является выявление любых возможностей, которые могли бы способствовать кибератакам или содействовать разработке оружия.
Критерии соответствия для государственных контрактов
Предлагаемые руководящие принципы обязывают компании проходить эту проверку для квалификации на государственные контракты. В частности, под эти требования подпадут организации с годовыми расходами на вычислительные ресурсы для обучения передовых моделей свыше 100 миллионов долларов или компании, генерирующие как минимум 500 миллионов долларов выручки от продуктов и услуг, связанных с ИИ.
Роль Американского центра стандартов и инноваций ИИ (CAISI)
Американский центр стандартов и инноваций ИИ (CAISI) в настоящее время проводит проверки некоторых моделей ИИ на основе добровольных соглашений с крупными разработчиками, такими как OpenAI, Anthropic, Google, Microsoft и xAI. Группа защиты интересов предлагает, чтобы CAISI принял проактивный подход в установлении обязательных процессов скрининга, гарантируя, что только безопасные технологии ИИ будут взаимодействовать с правительственными операциями.
Призыв к законодательным мерам
Кроме того, группа выступает за создание Конгрессом постоянного контролирующего органа в Министерстве торговли США. Этот орган будет отвечать за соблюдение предложенных требований к проверке, тем самым повышая безопасность государственных контрактов, связанных с передовыми технологиями ИИ.
По мере продолжения обсуждений взаимодействия ИИ и национальной безопасности, результаты этих предложений могут сформировать ландшафт развития ИИ и его применение в правительственных проектах.
