Искусственный интеллект, у психиатра. Даже ИИ делает анализ на «Голова» для спорных решений о дискомфорте

Инструмент психиатрии искусственного интеллекта позволяет исследователям воссоздать дефектные модели для анализа аномального поведения и уязвимостей.

Поскольку искусственный интеллект входит в все больше и больше областей, от доставки медицинских материалов до беспилотников до цифровых помощников, используемых в повседневной жизни, становится важным для понимания причин, которые приводят к неудачам этих систем.

Даже если технологии, основанные на том, что вы обещаете значительные преимущества, они не являются непогрешимыми: они могут потерпеть неудачу из -за ошибок проектирования, предвзятых данных обучения или кибер -атак.

Основной проблемой в случае критического сбоя является сложность подробного изучения того, как у вас есть соответствующие решения, особенно когда система принадлежит частной компании, которая не предоставляет доступ к исходному коду или внутренним данным, пишет Gizmodo.

В этом контексте команда исследователей из Технологического института Джорджии разработала психиатрию, инструмент цифрового исследования, который может восстановить и проверять модели неправильного поведения.

Как у вас есть психиатрия

AI Psychiatry работает, извлекая «изображение памяти» системы, которую вы имеете точно во время разлома, что предлагает окно на внутреннем статусе модели.

Благодаря ряду специализированных алгоритмов цифровой отпечаток пальца восстанавливается в функциональной модели, которая может быть проанализирована в безопасной среде.

Таким образом, следователи могут воссоздать сценарий, в котором ИИ не удалось, например, автономный автомобиль, который необъяснимый с дороги, и может проверить, была ли ошибка, вызванная техническим сбоем, компьютерной атакой или другой внешней причиной.

Психиатрия ИИ была протестирована на 30 моделях ИИ, 24 из которых были преднамеренно модифицированы для получения ошибочных результатов.

Все модели могут быть успешно восстановлены и проанализированы, в том числе модели, используемые для распознавания дорожных знаков.

Как проявить расширенные приложения при обеспечении ИИ

Основным аспектом психиатрии является общий характер: система может быть применена к любой модели, которую вы разработали с наиболее распространенными программирующими рамами, не требуя предварительных знаний о конкретной архитектуре.

Это делает его полезным не только для изучения инцидентов, но и для проактивного аудита систем, используемых государственными учреждениями или частными компаниями.

Более того, учитывая, что ИИ становится рабочим инструментом для правительственных агентов, от полиции до социальных служб, алгоритмический аудит становится все более распространенным требованием наблюдения на местном и национальном уровнях.

У вас есть психиатрия, предлагаемая в открытом исходном коде, может стандартизировать методы исследования и может обеспечить повышенную степень прозрачности при использовании этих технологий.

Благодаря такому подходу разработчики систем ИИ, власти и конечных пользователей могут извлечь выгоду из надежного инструмента для выявления и предотвращения ошибок, способствующих увеличению общественного доверия к технологиям искусственного интеллекта.