Мета отказывается от людей в пользу искусственного интеллекта. Вот как вы понимаете, как ИИ абсолютно все поймает
Согласно внутренним документам, проанализированным NPR, Meta намерена автоматизировать до 90% процессов оценки риска, отказываясь от аналитиков.
Мета направляется к почти полной автоматизации своих внутренних процессов безопасности, согласно внутренним документам, полученным американским NPR.
Мета хочет заменить 90% людей на системы ИИ
Компания заменит 90% оценщиков риска человека на системы искусственного интеллекта, что является основным изменением в так называемых «оценке конфиденциальности и целостности»,-пишет Mashable.
До настоящего времени Meta использовала команды человеческих аналитиков для оценки опасностей, связанных с новыми технологиями или изменениями алгоритма.
Фактически, оценки включали потенциальное влияние на безопасность пользователей, особенно в контексте опасного содержания или дезинформации.
Рассматриваемые обязанности будут взяты на работу с ИИ, которые автоматически анализируют анкеты, заполненные командами продукта, и мгновенно приведут к решениям и рекомендациям по риску.
Преимущества существуют, но они приходят в стаю с рисками
Хотя ранее компания утверждала, что ИИ будет использоваться только для оценки низкого риска, NPR показывает, что новая система уже применяется в решениях по безопасности ИИ, рискам для молодежи и честности, включая смягчение насильственного или ложного содержания. Кроме того, инженеры компании получат большую автономию в процессе принятия решений.
Изменения происходят в контексте, в котором Meta закрылась в апреле программы проверки человека, заменив ее системой типа «заметки сообщества» и собственными алгоритмами, известными часто дезинформацией, или сообщает об этом ошибочно.
Наблюдательный совет Meta отреагировал на эти меры, попросив компанию срочно оценить возможные негативные последствия для прав человека.
В рамках недавнего решения Совет предупредил, что чрезмерная автоматизация может непропорционально повлиять на страны кризиса, где способность автоматических технологий понимать местный контекст ограничена.
Стратегия автоматизации отражает общую цель Meta по повышению эффективности и скорости запуска продуктов.
Стул и, следовательно, критики указывают на то, что замена людей с ИИ в конфиденциальных областях, таких как безопасность пользователей и модерация контента, может создать значительные уязвимости для миллиардов пользователей во всем мире. Еще неизвестно, как компания будет адаптироваться по отношению к реальности.
