Эксперт: Человечество может стать расходным материалом в войне ИИ

Размежевание создаваемых в мире систем искусственного интеллекта (ИИ) по национальному, половому, конфессиональному и другим признакам может привести к войне между искусственными интеллектами, в которых человечество будет всего лишь расходным материалом.

Как передает Oxu.Az, такое мнение высказал ТАСС один из ведущих специалистов в области компьютерных технологий, академик Российской академии наук Игорь Каляев.

Комментируя высказывание американского предпринимателя Илона Маска о том, что объем доступных данных человечества для обучения ИИ практически исчерпан и надо переходить к обучению нейросетей на синтетических данных (созданных самим ИИ), то есть к процессу самообучения, академик Каляев выразил сомнение, что "синтетические (виртуальные) данные, сгенерированные самим ИИ, смогут кардинально повысить его "умственные способности", особенно для работы в реальном мире".

"Но для того, чтобы ИИ мог генерировать такие "синтетические" данные, его надо для этого предварительно обучить. И от того, кто и как будет его этому обучать, и будет в первую очередь зависеть, какие "синтетические" данные ИИ будет генерировать для своего дальнейшего самообучения и, соответственно, его "менталитет". Все это может привести к тому, что в дальнейшем будет происходить постепенное размежевание ИИ по национальному, половому, конфессиональному и прочим признакам. А как показывает вся история человечества, именно такое размежевание является главной причиной возникновения всевозможных конфликтов, вплоть до самых кровавых. То же самое в дальнейшем может произойти и с ИИ - каждый такой "самостийный" ИИ будет считать себя "самим правильным ИИ", а все остальные ИИ - "неправильными" и, следовательно, их надо уничтожить. В результате начнутся войны между ИИ, в которых человечество останется малозначимым расходным материалом", - полагает Каляев.

По его словам, обучать ИИ на синтетических данных, равно обучению ребенка жизни только с помощью различных мультиков.

"ИИ несмотря на то, что он "впитал в себя" все реальные данные, накопленные человечеством, до сих пор не смог достичь уровня естественного человеческого интеллекта (ЕИ). Это говорит о том, что принципы работы ЕИ (которые мы до сих пор не понимаем) кардинально отличаются и, главное, на много эффективнее принципов работы ИИ (которые мы прекрасно понимаем)", - отметил академик.