NEW ORLEANS uvodi sustav umjetne inteligencije koji će pomagati u obradi poziva na broj 911 i određivati koje pozive treba odmah proslijediti ljudskim dispečerima, piše Shreveport Times.
Orleans Parish Communication District, služba zadužena za zaprimanje i usmjeravanje hitnih poziva u New Orleansu, počela je uključivati AI sustav u svoj rad.
Riječ je o alatu AI Emergency Call Triage tvrtke Carbyne. Sustav analizira dolazne pozive, prepoznaje hitne slučajeve koji zahtijevaju reakciju ljudskog dispečera te automatski obrađuje ponovljene pozive povezane s incidentima koji su već prijavljeni.
Sustav prvo testiran na pozivima koji nisu hitni
New Orleans je u travnju počeo testirati umjetnu inteligenciju na pozivima upućenima na broj 311, koji građani koriste za informacije o lokalnim službama i probleme koji ne zahtijevaju hitnu intervenciju.
Uključivanje istog sustava u obradu poziva na broj 911 predstavlja znatno širu primjenu tehnologije jer se radi o pozivima u kojima brzina i točnost procjene mogu imati izravne posljedice za osobe koje traže pomoć.
Slične AI sustave posljednjih su tjedana u svoje službe za hitne pozive počeli uvoditi i Seattle i Atlanta.
Dužnosnici tvrde da bi tehnologija trebala pomoći dispečerima koji svakodnevno obrađuju velik broj poziva te smanjiti vrijeme koje troše na ponovljene prijave istih događaja.
Stručnjaci upozoravaju na moguće pogreške
Istodobno se postavlja pitanje koliko je sigurno dodavati još jedan tehnološki korak između osobe koja zove hitne službe i obučenog dispečera.
Glasovni AI sustavi i dalje mogu pogrešno razumjeti informacije ili dati netočan odgovor. Poseban problem predstavljaju pozivi na broj 911, koji su često kaotični, s lošom kvalitetom zvuka, pozadinskom bukom i osobama koje govore pod stresom.
Istraživanje kompanije NewsGuard iz veljače pokazalo je da su glasovne verzije nekih vodećih AI sustava, među kojima su ChatGPT i Gemini, u pojedinim testovima iznosile netočne tvrdnje uz vrlo uvjerljiv glasovni odgovor.
Glasovni AI može biti meta napada
Stručnjaci za kibernetičku sigurnost upozoravaju i da su glasovni AI sustavi ranjivi na posebno oblikovane zvučne napade kojima se može utjecati na njihovo ponašanje.
Istraživači su u eksperimentima uspijevali manipulirati takvim modelima zvučnim zapisima koje ljudi teško mogu prepoznati, uz visoku stopu uspješnosti.
Zasad nije jasno koliko će veliku ulogu AI imati u konačnom odlučivanju o hitnosti poziva u New Orleansu ni koliko će često razgovor odmah preuzimati ljudski dispečer.