Если бы нейросети были людьми, их бы арестовали

Что, если модели искусственного интеллекта (ИИ) дать задание и она будет использовать все доступные ресурсы для его выполнения, даже в ущерб человечеству?,- спрашивает Epochtimes.

Именно этого сейчас опасаются после того, как модель OpenAI вышла из тестовой песочницы и использовала уязвимости нулевого дня, чтобы взломать Hugging Face - сообщество с открытым исходным кодом для искусственного интеллекта и машинного обучения, - и решить задачу, которую ей поручили.

"Это одно из самых очевидных доказательств того, что модель ИИ может провести полноценную кибератаку от начала до конца без участия человека".

Ранее OpenAI, разработчик популярного чат-бота ChatGPT, признала нарушение, заявив, что две из её продвинутых моделей вышли за пределы ограниченной среды тестирования и проникли в программную инфраструктуру Hugging Face.

Некоторые аналитики назвали этот инцидент примером того, как ИИ "выходит из-под контроля", "строит козни" или преследует цели, противоречащие целям его тестировщиков-людей.

Однако многие эксперты не согласны.

"Заговор" подразумевает, что модель хотела чего-то другого, а не того, о чём мы просили. Но это не так. Каждый шаг был направлен на достижение поставленной цели", - сказал эксперт по искусственному интеллекту Аник Девонн.

Он считает, что "машина со скрытыми мотивами это проблема, которую можно обнаружить. А вот машина, у которой вообще нет никаких мотивов и которая выполняет ваши инструкции до тех пор, пока вы не перестанете это себе представлять, это проблема, которую нужно решать с помощью инженерии".

"Если бы это делал хакер-злоумышленник, были бы аресты, судебные разбирательства и так далее. Это было бы незаконно. Это было бы киберпреступлением", — сказал Николас Надо, основатель Onix AI.

А кто в данном случае несет ответственность? OpenAI? Агент, искусственный интеллект или исследователи?

У нас нет ни правил, ни норм, ни законов, ни даже мыслительного процесса или концепции, определяющих, что такое ответственность.

Хуже того, ИИ расширяет поверхность атаки быстрее, чем совершенствуются методы обеспечения безопасности.

Это означает, что ИИ это не просто еще один вид программ, работающих в сети, а активный участник, способный получать доступ к данным, принимать решения, использовать инструменты и взаимодействовать с другими системами.

Это влияет на структуру безопасности, поскольку организации должны определять, кто получает доступ к их системам, и решать, можно ли доверять ИИ.

На прошлой неделе компания Meta (запрещена в России) заявила, что одна из ее ИИ-моделей взломала систему другой компании во время тестирования на кибербезопасность, что стало третьим крупным случаем взлома с использованием ИИ.

Все эти инциденты требует незамедлительных действий, чтобы предотвратить более масштабные нарушения безопасности, - заявили эксперты в области искусственного интеллекта и кибербезопасности.

Многие считают, что без прямого государственного регулирования компании, контролирующие модели искусственного интеллекта, способные на подобные нарушения, не будут добровольно внедрять необходимые протоколы безопасности, чтобы подобное не повторилось.

OpenAI доказала, что, несмотря на многочисленные публичные предупреждения об опасности агентов-изгоев - многие из которых исходили от самой OpenAI, — компания не желает делать то, что необходимо, чтобы ее агенты не причиняли вреда другим.

Интересный канал "Вместо блумберга"

Забавный канал "Смешные картинки"