Kako lahko umetna inteligenca zbira namige, da prepreči prihodnje streljanje v šoli

Glede na nedavna smrtonosna streljanja v šolah v ZDA vzgojitelji, starši in strokovnjaki za varnost iščejo tehnologijo, ki bi pomagala rešiti težavo. V ospredju je uporaba umetne inteligence.

"Naš cilj je zagotoviti, da otrok nikoli ne bi hotel prinesti pištole v šolo," je dejala Suzy Loughlin, soustanoviteljica in vodja sveta za krizno upravljanje podjetja Firestorm. V ta namen je podjetje v partnerstvu s šolo za nadaljnje izobraževanje na Univerzi v Alabami razvilo preventivni program, ki išče zgodnje opozorilne znake pri otrocih, ki bi lahko bili izpostavljeni prihodnjim nasilnim dejanjem.

Za program ocenjevanja vedenjskih tveganj BERTHA je ideja nastala iz množičnega streljanja na Virginia Tech leta 2007, ko je bilo ubitih 32 ljudi - enega najsmrtonosnejših v zgodovini ZDA. Februarsko streljanje na srednji šoli Marjory Stoneman Douglas v Parklandu na Floridi, v katerem je umrlo 17 ljudi, je temu vprašanju pritegnilo več pozornosti, kar je maja ponovno poudarilo streljanje srednje šole Santa Fe v Teksasu, kjer je bilo ubitih 10 učencev in učiteljev.

Žrtve streljanja v šoli od leta 1989, Vir: Mati Jones

Program ocene tveganja je zasnovan kot varnostna mreža za ulov otrok, ki bodo morda potrebovali pomoč in posredovanje, preden postanejo samomorilni ali nasilni. Kot se je pokazalo po vsakem prejšnjem incidentu, se skrbniki, starši in študentje sprašujejo, zakaj zgodnjih opozorilnih znakov - kot so spletno ustrahovanje, namigovanja na orožje in sklicevanja na streljanje srednje šole Columbine v Koloradu leta 1999 - prej niso opazili.

Uporaba umetne inteligence za iskanje namigov

Izziv je bila težava prebiranja po gorah podatkov, ustvarjenih na forumih in v računih družabnih omrežij, da bi našli nekaj igel, ki bi šolskega svetovalca ali psihologa opozorile, da je otrok v težavah. Torej, da bi filtrirali takšne namige na spletu, skrbniki uporabljajo orodja za umetno inteligenco.

"Naš cilj je zagotoviti, da otrok nikoli ne želi prinesti pištole v šolo."

"Mi smo komponenta umetne inteligence," je pojasnila Mina Lux, ustanoviteljica in izvršna direktorica newyorške Meelo Logic. Njeno podjetje sodeluje s programom BERTHA s programom Firestorm, da bi izvedlo začetno težko razvrščanje sortiranja po tako imenovanih velikih podatkih. "Naš poudarek je avtomatizacija znanja za razumevanje konteksta."

Meelova programska oprema lahko sledi komentarjem in objavam nazaj do njihovega prvotnega vira. Podjetje postopek omenja kot vzročno sklepanje, vendar je bolj analogno iskanju ničelnega pacienta, prvotnega posameznika, zaradi katerega je morda nekdo drug izrazil zaskrbljenost.

"Običajno je v spletu začetni izbruh in to namerno javno objavijo - morda gre za klic na pomoč," je pojasnil Hart Brown, direktor tehnične službe Firestorm. "In v 80 odstotkih primerov vsaj ena oseba ve, tudi če je prva objava zasebna, jo bo verjetno nekdo drug objavil."

Program AI nudi začetni pregled na podlagi uporabljenih izrazov slenga, konteksta, lokacije in povezanih povezav. Nato dejavnost nadzorne plošče BERTHA Firestorm označi aktivnost za morebitno posredovanje. Tam ljudje - svetovalci, učitelji, psihologi - stopijo, da ocenijo, ali obstaja resnična grožnja, ali otrok potrebuje dodatno pozornost, ker izkazuje jezo ali samomorilne nagnjenosti, ali če je dejavnost benigna.

Izziv je bila težava prebiranja po gorah podatkov, ustvarjenih na forumih in v družabnih medijih.

"Toda nihče ni odgovoren za odločitev," je povedala Brenda Truelove, skrbnica programa na Univerzi v Alabami, ki sodeluje s programom Firestorm in s tem povezanim programom e-učenja za vzgojitelje po vsej državi. "Ena oseba lahko nekaj pogreša, zato se ekipa ljudi odloči, kaj bo storila."

Truelove je opozoril, da program temelji na izkušnjah učiteljev, forenzičnih psihologov in drugih strokovnjakov za oblikovanje formule za obvladovanje morebitnih kriz.

Ali povečana varnost pomeni manj zasebnosti?

Čeprav je potencial umetne inteligence pri preprečevanju streljanja v prihodnosti v šoli obetaven, takšno sledenje in analiza podatkov vzbujata neizogibne pomisleke glede zasebnosti in natančnosti ter ali varnost prevlada nad kakršnimi koli skrbmi.

Bryce Albert, učenec devetega razreda srednje šole Marjory Stoneman Douglas, je bil na hodniku v tretjem nadstropju, ko je strelec začel streljati na učence. Ko je Albert videl morilca, ki je prihajal po hodniku, je učitelj Alberta spustil v učilnico in ta je preživel. Od te izkušnje se je premislil o zasebnosti.

"Prej sem bil všeč, ne spuščajte se v moje stvari," je Albert povedal za Digital Trends o organih, ki spremljajo njegovo uporabo v družabnih medijih. "Zdaj pa sem si popolnoma premislil."

Meelo’s Lux je poudaril, da programi umetne inteligence ne dostopajo do nobenega zasebnega računa; vse informacije so javne. Loughlin iz Firestorm je poudaril dejstvo, da podatkov ne zbirajo in ne shranjujejo sami. Vzdržujejo ga posamezne šole, ki že imajo izkušnje z vodenjem evidenc učencev. (Firestorm zaračuna licenčnino v višini 2.500 USD na šolo, Univerza v Alabami pa ponuja brezplačen spletni tečaj za vzgojitelje Alabame K-12. Šole lahko brezplačno delajo tudi na svojih lastnih projektih zgodnjega opozarjanja z uporabo osnovne 9-stopenjske formule Firestorm za vzpostavitev takih programov.)

Lux priznava, da se lahko jezikovne prefinjenosti, kot je sarkazem, izkažejo za zahtevne pri vseh raziskavah umetne inteligence. Meelo se osredotoča na besedilno analizo in ne na vrsto analize slik, ki jo proučujejo druga podjetja z umetno inteligenco, kot je Cortica. Kljub temu pa je prostor za napačno razlago celo za človeške udeležence.

"Težko je dobiti čustva s pošiljanjem sporočil," je priznal Albert.

Po drugi strani pa nepristranski program ne igra priljubljenih ali prezre vrst čustvenih ali vedenjskih sprememb, ki bi lahko nakazovale, da so težave pred nami.

AI je še vedno le začetni filter ali orodje za ustavitev streljanja v prihodnosti.

"Na koncu je lahko natančnejši z odpravo čim večje pristranskosti," je dejal Firestorm's Brown. Kadrovska oseba ali svetovalec lahko na primer zmanjša človekove čustvene izbruhe, če na primer reče, da se to dogaja ves čas. Utripajoči računalnik se ne opravičuje.

"Toda vseeno je potreben človeški pridih, s katerim se lahko pogovorimo," je dejal Brown. "Računalnik ne bo določil, ali je treba to osebo izgnati ali potrebuje svetovanje."

AI je orodje in ne rešitev

Vsi strokovnjaki, s katerimi so se za to zgodbo pogovarjali Digital Trends, so poudarili dejstvo, da je umetna inteligenca še vedno samo začetni filter ali orodje za ustavitev streljanja v prihodnosti. Lahko sproži opozorila o ogroženih otrocih, vendar vzgojiteljem ne more povedati, kako, kdaj ali celo, če naj posredujejo. Šole še vedno potrebujejo lastno skupino strokovnjakov - od učiteljev, ki znajo učence, do psihologov - in jih bodo verjetno še potrebovale.

"Statistični podatki kažejo, da je pri vsakem šolskem streljanju večja verjetnost, da se zgodi še eno šolsko streljanje," je dejal Lux.

Končno je človeški element najpomembnejši dejavnik. "Pogovorite se z ljudmi in prosite za pomoč," je dejal Albert. "Ne bojte se prositi za pomoč."