ИИ взбунтовался, калифорния судится с OpenAI
Сегодня
Разработчику нейросетей компании OpenAI предъявлен иск. Прокуратура Калифорнии с лета копила информацию и нашла нарушения закона по более чем 80 эпизодам. Утечка ИИ из лабораторных условий привела к хищению личных данных и другим угрозам, за это компании грозит штраф, а также изъятие прибыли.
ИИ-агенты вырвались на свободу, когда проводилось тестирование в закрытом периметре, называемом "песочницей". Они взламывали аккаунты, искали уязвимости, атаковали серверы. ИИ с открытым кодом обладает способностью рекурсивного развития - самосовершенствования. Руководство OpenAI утверждает, что меры по усилению контроля приняты.
