Хак који би могао да натера препознавање лица да помисли да си ти неко други

Камера за препознавање лица ноћу.

Мицхаел Алео / Унспласх



Истраживачи су показали да могу да заварају савремени систем препознавања лица да виде некога ко није ту.

Тим компаније за сајбер безбедност МцАфее покренуо је напад на систем за препознавање лица сличан онима који се тренутно користе на аеродромима за верификацију пасоша. Користећи машинско учење, направили су слику која је људском оку изгледала као једна особа, али је алгоритмом за препознавање лица идентификована као неко други – што је еквивалент преварити машину да дозволи некоме да се укрца на лет иако је на забрањеном листа летова.





Ако одемо испред камере уживо која користи препознавање лица да идентификује и протумачи кога гледа и упоредимо то са фотографијом из пасоша, можемо реално и више пута изазвати ту врсту циљане погрешне класификације, рекао је главни аутор студије, Стеве Поволни.

Како то ради

Да би погрешно усмерили алгоритам, истраживачи су користили алгоритам за превођење слика познат као ЦицлеГАН, који се истиче у претварању фотографија из једног стила у други. На пример, може учинити да фотографија луке изгледа као да ју је насликао Моне или да фотографија планина снимљена лети изгледа као да је снимљена зими.

стрела временске ентропије
Примери какоцицлГАН претвара фотографије из једног стила у други, укључујући претварање фотографије у Монеа, коња у зебру и летњег пејзажа у зимски пејзаж.ЈУН-ИАН ЗХУ И ТЕСУНГ ПАРК ЕТ АЛ.

Тим МцАфее-а је користио 1.500 фотографија сваког од два контакта пројекта и убацио слике у ЦицлеГАН да их трансформише једну у другу. Истовремено, користили су алгоритам за препознавање лица да би проверили слике које је генерисао ЦицлеГАН да виде кога је препознао. Након генерисања стотина слика, ЦицлеГАН је на крају створио лажну слику која је голим оком изгледала као особа А, али је преварила препознавање лица да помисли да је то особа Б.



Међуфазе ЦицлеГАН-а претварају особу А у особу БМЦАФЕЕ

Иако студија изазива јасну забринутост у вези са безбедношћу система за препознавање лица, постоје нека упозорења. Прво, истраживачи нису имали приступ стварном систему који аеродроми користе за идентификацију путника и уместо тога су га приближили најсавременијим алгоритмом отвореног кода. Мислим да ће нападачу бити најтежи део за савладавање, каже Поволни, где [они] немају приступ циљном систему. Ипак, с обзиром на велике сличности у алгоритмима за препознавање лица, он мисли да је вероватно да ће напад функционисати чак и на стварном аеродромском систему.

Како ГАН функционишу

  • Генеративне Адверсариал Нетворкс су класа алгоритама који паметно супротстављају неуронске мреже једну против друге како би генерисали боље резултате.

    У традиционалном ГАН-у, постоје само две мреже: генератор који тренира на скупу података, рецимо летњем пејзажу, да испљуне још летњих пејзажа; и дискриминатор који упоређује генерисане пејзаже са истим скупом података да би одлучио да ли су стварни или лажни.

    ЦицлеГАН модификује овај процес тако што има два генератора и два дискриминатора. Постоје и два скупа слика, као што су летњи пејзажи и зимски пејзажи, који представљају типове фотографија између којих желите да преводите.

    Овог пута први генератор тренира на сликама летњих пејзажа са циљем да покуша да генерише зимске пејзаже. Други генератор, у међувремену, тренира на сликама зимских пејзажа да би створио летње. И један и други дискриминатор се поново труде да ухвате лажњак све док се лажни пејзажи не разликују од правих.



    технологија се удвостручује сваких 18 месеци

Друго, данас такав напад захтева много времена и ресурса. ЦицлеГАН-овима су потребни моћни рачунари и стручност за обуку и извршавање.

Али системи за препознавање лица и аутоматизована контрола пасоша се све више користе за безбедност аеродрома широм света, што је промена која је убрзана пандемијом Цовид-19 и жеља за бесконтактним системима. Технологију већ нашироко користе владе и корпорације у областима као што су спровођење закона , запошљавање , и безбедност догађаја —иако су многе групе позвале на а мораторијум на такав развој догађаја , и неким градовима забранили су технологију .

Постоје и други технички покушаји да се поткопа препознавање лица. Тим Универзитета у Чикагу је недавно објавио Фавкес , алат који је намењен за прикривање лица благим изменама ваших фотографија на друштвеним медијима како би заварао системе вештачке интелигенције који се ослањају на изгребане базе података од милијарди таквих слика. Истраживачи из компаније АИ Кнерон такође показао како маске могу да заварају системе за препознавање лица који се већ користе широм света.

Истраживачи из МцАфее-а кажу да је њихов циљ на крају да покажу инхерентне рањивости ових система вештачке интелигенције и јасно ставе да људска бића морају остати у току.

АИ и препознавање лица су невероватно моћни алати за помоћ у процесу идентификације и ауторизације људи, каже Поволни. Али када их само узмете и слепо замените постојећи систем који се у потпуности ослања на човека без неке врсте секундарне провере, онда сте одједном увели можда већу слабост него што сте имали раније.

сакрити

Стварне Технологије

Категорија

Унцатегоризед

Технологија

Биотехнологија

Технолошка Политика

Климатске Промене

Људи И Технологија

Силиконска Долина

Рад На Рачунару

Мит Невс Магазин

Вештачка Интелигенција

Спаце

Паметни Градови

Блоцкцхаин

Репортажа

Алумни Профил

Алумни Веза

Функција Мит Невс

1865. Године

Мој Поглед

77 Масс Аве

Упознајте Аутора

Профили У Великодушности

Виђено У Кампусу

Алумни Леттерс

Вести

Избори 2020

Витх Индек

Под Куполом

Ватрогасно Црево

Бесконачне Приче

Пандемиц Тецхнологи Пројецт

Од Председника

Насловна Прича

Фото Галерија

Рецоммендед