Политический документ Meta описывает опасения компании, что она может случайно разработать модель ИИ, которая приведет к «катастрофическим последствиям». В документе описываются планы по предотвращению выпуска таких моделей, но признается, что это может оказаться невозможным.
Среди возможностей, которых компания опасается больше всего, — система искусственного интеллекта, способная без помощи человека прорваться сквозь защиту даже самой хорошо защищенной корпоративной или правительственной компьютерной сети…
TechCrunch заметил документ о политике с безобидно звучащим названием Frontier AI Framework.
Компания объясняет свое определение «катастрофического» исхода:
В качестве примера приводится «автоматизированная сквозная компрометация корпоративной среды, защищенной по лучшим методикам». Другими словами, ИИ может проникнуть в любую компьютерную сеть, не нуждаясь в помощи человека.
Другие:
- Автоматизированное обнаружение и эксплуатация уязвимостей нулевого дня
- Полностью автоматизированные мошенничества против частных лиц и предприятий, наносящие широкомасштабный ущерб
- Разработка и распространение «высокоэффективного биологического оружия».
Компания заявляет, что при выявлении критического риска она немедленно прекратит работу над моделью и постарается исключить возможность ее выпуска.
Признает, что сдерживание может оказаться невозможным
В документе Meta откровенно признается, что лучшее, что она может сделать в таких обстоятельствах, — это приложить все усилия, чтобы модель не была выпущена, но ее мер может оказаться недостаточно (курсив наш):
С полным текстом документа можно ознакомиться здесь.
Фото Cash Macanaya на Unsplash
*Meta — запрещена в РФ
