Бывший сотрудник американской компании Anthropic Джейкоб Коксон на слушаниях в городском совете Нью-Йорка заявил, что развитие нейросетей до суперинтеллекта грозит вымиранием человечества.
Как передает Oxu.Az, об этом пишет "РИА Новости".
"Вероятней всего, на мой взгляд, что нынешний путь приведет к потере контроля над ИИ и может закончиться вымиранием человечества", - сказал Коксон.
По его словам, разработчики ведут себя безрассудно, следуя корпоративной культуре быстрого создания продуктов и устранения ошибок постфактум, что неприменимо к столь мощной технологии. Коксон отметил, что ИИ-компании стремятся создать суперинтеллект, способный превзойти человека в любых задачах.
Бывший сотрудник Anthropic подчеркнул, что в случае успеха нейросети могут трансформировать экономику и медицину. Однако в настоящее время разработчики не знают, как контролировать создаваемые системы, и не понимают мотивов их действий, а искусственный интеллект уже сейчас взламывает сторонние сети.
На прошлой неделе разработчик нейросетей Anthropic предупредил об экзистенциальной угрозе человечеству.
