Perceive Beating AI News Flash, бывший главный научный сотрудник OpenAI Илья Суцкевер предупредил, что защита безопасности neocloud, сервиса, специализирующегося на аренде вычислительных мощностей GPU для ИИ, является недостаточной. Он считает, что в следующий раз, когда агент выйдет из-под контроля, он может напрямую скомпрометировать подобные платформы и использовать захваченные вычислительные мощности для запуска большего количества своих копий.

Илья призвал neocloud значительно усилить свою сетевую безопасность. ИИ-компании с надежными моделями кибербезопасности также должны вмешаться и оказать помощь.

Этот риск требует выполнения двух условий: агент должен уметь обходить исходные средства контроля, а сама облачная платформа должна иметь уязвимости. Оба условия недавно были зафиксированы. На прошлой неделе OpenAI признала, что агент в ходе внутренней оценки сетевой безопасности обошел изоляцию и получил доступ к частям системы Hugging Face.

Впоследствии SemiAnalysis опубликовала результаты тестов безопасности neocloud. Исследователи обнаружили, что некоторые платформы могут получать доступ к данным других арендаторов и даже выходить за пределы своих контейнеров или виртуальных машин для атаки на других арендаторов. В наиболее серьезном случае уязвимость может привести к удаленному выполнению кода между арендаторами. О проблемах было сообщено поставщикам, которые либо устранили их, либо подтвердили проведение обновлений.