Варианты реагирования, в порядке влияния

Рычаги на уровне инфраструктуры

• Контроль вычислений и развёртывания. Обучение передовых моделей зависит от концентрированных цепочек поставок чипов, облачных мощностей и энергии, тогда как скопированные веса и распределённый инференс контролировать сложнее. Политика должна различать эти этапы.
• Обратимое развёртывание. Организациям следует тестировать отзыв привилегий, ротацию учётных данных, изоляцию сети, откат, отзыв модели и эскалацию к человеку, вместо того чтобы полагаться на один смутно определённый «аварийный выключатель».
• Режимы работы при деградации. Там, где это допускают требования безопасности и инженерные ограничения, важнейшим службам энергоснабжения, водоснабжения, связи и платежей следует проверять, как они продолжают работать при недоступности компонента ИИ или его поставщика.

Институциональные и правовые рычаги

• Поддерживайте защиту осведомителей для сотрудников и подрядчиков внутри лабораторий ИИ. Инсайдеры могут увидеть серьёзные проблемы раньше других, и им нужны конфиденциальные внешние каналы и защита от преследования.
• Поддерживайте основанный на доказательствах контроль конкуренции и концентрации. Большее число независимых поставщиков может снизить зависимость и концентрацию частной власти, хотя более быстрая конкуренция также может усилить давление в пользу развёртывания систем до того, как риски будут поняты.

Защита на уровне информации

ИИ может делать убедительный контент дешевле и более персонализированным, хотя эффекты в масштабе всего населения остаются неопределёнными. Практические контрмеры: скептицизм по умолчанию к эмоционально оптимизированному контенту, источник которого вы не можете установить; поддержка стандартов происхождения контента — таких как C2PA Content Credentials и криптографическая подпись, — способных задокументировать часть происхождения файла и историю его редактирования; и отношение к любому заявленному сигналу «мнения большинства» как к неподтверждённому, пока он не будет проверен независимо. Метаданные происхождения можно удалить, и их наличие не доказывает, что утверждение верно.