Mo.bi - Crypto Currency Tracker logo Mo.bi - Crypto Currency Tracker logo
Forklog 2021-04-09 11:04:51

В программу для борьбы со списыванием интегрировали «расистский» алгоритм определения лиц

Программа Proctorio, которая следит за тем, чтобы учащиеся не жульничали на экзаменах, в половине случаев не определяет лица темнокожих пользователей. К такому выводу пришел Акаш Сатисан — студент, который лично столкнулся с предвзятостью алгоритма, пишет Motherboard. Сатисан решил изучить методы распознавания лиц Proctorio и выяснил, что они работают идентично OpenCV — алгоритму компьютерного зрения с открытым исходным кодом. Он провел несколько тестов с использованием OpenCV и набора данных, предназначенного для оценки точности работы алгоритма машинного зрения с лицами разных национальностей. Точность определения лиц на фотографиях с использованием модели компьютерного зрения OpenCV. Данные: Акаш Сатисан. Оказалось, что алгоритм не только не распознал лица темнокожих более чем в половине случаев, но и продемонстрировал низкую точность идентификации людей любой из национальностей — самый высокий показатель попаданий был меньше 75%. Proctorio не раскрывает подробностей, как работают их алгоритмы определения лиц. Однако на сайте имеется упоминание OpenCV в разделе с лицензиями, что косвенно подтверждает использование этого алгоритма. На запрос журналистов представитель компании заявил, что тесты Сатисана доказывают — их программное обеспечение только ищет лица, но не распознает личности, связанные с ними. https://forklog.com/raspoznavanie-lits-rasizm-i-politsiya-istoriya-odnogo-startapa/ Напомним, в начале апреля исследователи Кембриджского университета создали онлайн-игру Emojify, которая демонстрирует возможности и недостатки технологий распознавания эмоций человека. В январе 2021 года правозащитная организация Amnesty International призвала запретить распознавание лиц в общественных местах. В организации считают, что биометрическая идентификация людей с помощью камер уличного наблюдения — грубое вмешательство в личную жизнь граждан. В начале 2019 года темнокожий американец провел десять суток в тюрьме из-за ошибки распознавания лиц. Мужчина намерен судиться с местной полицией за безосновательный арест. Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!

Read the Disclaimer : All content provided herein our website, hyperlinked sites, associated applications, forums, blogs, social media accounts and other platforms (“Site”) is for your general information only, procured from third party sources. We make no warranties of any kind in relation to our content, including but not limited to accuracy and updatedness. No part of the content that we provide constitutes financial advice, legal advice or any other form of advice meant for your specific reliance for any purpose. Any use or reliance on our content is solely at your own risk and discretion. You should conduct your own research, review, analyse and verify our content before relying on them. Trading is a highly risky activity that can lead to major losses, please therefore consult your financial advisor before making any decision. No content on our Site is meant to be a solicitation or offer.