Эксперт: Управление ИИ отстает от своего развития

Искусственный интеллект развивается темпами, опережающими возможности предприятий и учреждений эффективно им управлять. Внедрение ИИ зачастую происходит без достаточной безопасности, четких правил и понимания рисков, что создает условия для потери контроля над процессами и решениями. Об этом в программе «Бизнес-Старт» на телеканале Bloomberg TV Bulgaria прокомментировал Ясен Танев, председатель Болгарской ассоциации по разработке программного обеспечения для бизнеса.

По его словам, технологии больше не являются просто инструментом, а постепенно становятся частью познавательного процесса людей, что поднимает новые вопросы об ответственности и управлении. Несмотря на достижения в области технологий, контроль над ними остается ограниченным, а возможности людей управлять ими отстают. Это создает риски, сравнимые с эксплуатацией мощной машины без необходимых систем безопасности.

«Сейчас существуют огромные, сверхмощные модели, и контроль над ними низок, и люди не могут ими хорошо управлять. Мир меняется каждый день, и мы должны изменить свой образ осознания и мышления, мы также должны начать измерять реальность. Это то, что мы должны поставить во главу угла — для чего нужен ИИ и как мы его используем», — подчеркнул гость.

Интеграция искусственного интеллекта в инструменты кибербезопасности и разработки облегчает как защиту, так и потенциальные атаки. Отсутствие опыта и контроля при массовом использовании ИИ приводит к серьезным уязвимостям в бизнесе и управлении. «Более 30% бизнеса и государства сейчас работают с искусственным интеллектом, который в тени определяет их поведение и решения», — сказал Танев.

По мнению эксперта, при внедрении ИИ наблюдается серьезный управленческий дефицит, отсутствуют четкие правила, контроль и распределение обязанностей. Это приводит к ситуации, когда технологии используются массово, но без стратегической основы.

«Нам необходимо начать откровенный разговор о месте искусственного интеллекта в организациях и о месте человека в управлении решениями, принимаемыми технологиями, потому что мы не можем продолжать говорить, что виноват ИИ, а ведь искусственный интеллект — продукт человека. Нам нужно осознать, что время использования искусственного интеллекта как инструмента прошло», — подчеркнул Танев.

Весь разговор смотрите в видео по ссылке Блумберг ТВ Болгария.