Kamerat me AI në klasa/ Boçi: Shkolla nuk është komisariat digjital

Deputeti i PD-së, Luçiano Boçi, ka kundërshtuar përdorimin e inteligjencës artificiale për mbikëqyrjen e nxënësve në shkolla, duke e cilësuar si një praktikë joproporcionale dhe juridikisht të diskutueshme.
Boçi ngre shqetësimin për vendosjen e kamerave brenda klasave, ndërsa thekson se më herët zyrtarë të Ministrisë së Arsimit kishin deklaruar se kamerat nuk do të instaloheshin në klasa. Sipas tij, “analiza e sjelljes” mund të çojë në profilizim të automatizuar të të miturve, ndërsa përdorimi i njohjes së fytyrës do të përfshinte përpunimin e të dhënave biometrike.

Reagimi i plotë:

SHKOLLA NUK ËSHTË KOMISARIAT DIGITAL

Siguria në shkolla është e domosdoshme, por mbikëqyrja e vazhdueshme e nxënësve me inteligjencë artificiale, sidomos brenda klasave dhe me “analizim sjelljeje”, është joproporcionale dhe juridikisht shumë e diskutueshme.

Këtu ka pesë probleme serioze të cilat nuk mund të tejkalohen as me prioritetin gjoja të sigurisë e as me dakortësinë e prindërve.
1. Ka kontradiktë zyrtare.
Më 17 dhe 22 korrik, zëvendësministrja e Arsimit dhe Lamallari deklaruan se kamerat nuk do të vendoseshin në klasa. Ndërsa tani konfirmojnë që do jetë dhe në klasa.
2.“Pikasja e sjelljes” mund të përbëjë profilizim të automatizuar të të miturve.
Nëse përdoret edhe njohja e fytyrës, kemi përpunim të të dhënave biometrike sensitive.
3.Ligji nr. 124/2024⁠ kërkon që përpunimi nga Policia të jetë i parashikuar me ligj, i domosdoshëm dhe proporcional.
Për teknologji të reja me rrezik të lartë kërkohet paraprakisht vlerësimi i ndikimit mbi të dhënat personale dhe, sipas rastit, konsultimi me Komisionerin.
4.Udhëzimi i Komisionerit për videosurvejimin⁠ e quan CCTV-në “ndërhyrje serioze në jetën private” dhe e lejon vetëm kur qëllimi nuk arrihet me mjete më pak ndërhyrëse. Kërkon zona të përcaktuara, akses të kufizuar, informim dhe afat sa më të shkurtër ruajtjeje.
5.Pretendimi se një kamerë e zakonshme “zbulon sende metalike të fshehura në trup” është teknikisht i dyshimtë pa sensorë të posaçëm dhe pa testim të pavarur të gabimeve.

E pranueshme do të ishte mbikëqyrja e hyrjeve, oborrit, perimetrit dhe korridoreve, pa kamera në klasa, pa audio, pa njohje fytyre apo profilizim sjelljeje, me verifikim njerëzor, auditim të pavarur dhe protokolle publike.
Pezullimi i aktivizimit në klasa dhe i modulit të “analizës së sjelljes”, është i domosdoshëm derisa të publikohen harta e kamerave, baza ligjore, vlerësimi i ndikimit, mendimi i Komisionerit, saktësia e algoritmit, aksesi i kompanisë zbatuese, vendruajtja e të dhënave dhe afati i fshirjes.

Shkolla duhet të jetë e sigurt, por nuk mund të kthehet në komisariat digjital.
Nxënësi nuk mund të trajtohet si i dyshuar në bankën e vet.