Российские ученые разработали безопасный алгоритм искусственного интеллекта

Российские исследователи разработали инновационные алгоритмы для прозрачного искусственного интеллекта. По их словам, они абсолютно понятны человеку, отличаются надежностью и безопасностью.


Пока новый подход использовали для автоматической проверки экологических гипотез, но его возможности гораздо больше. Исследователи видят в своей методологии основу для искусственного интеллекта общего назначения. Ключевая особенность — способность интеграции с современными генеративными ИИ-системами.

Авторы сравнивают прозрачный ИИ с уже привычным искусственным интеллектом. По их словам, он может контролировать работу непрозрачных нейросетей, как левое, логическое полушарие мозга человека контролирует деятельность правого, ответственного за образы и инстинктивные реакции.

Такой подход повышает предсказуемость сложных ИИ-систем, позволяя предотвратить нежелательные последствия их работы. Прозрачный ИИ выступает в роли логического контролера, делая использование безопасным.

Читайте также: