Një raport i ri ndërkombëtar mbi shtetin e së drejtës, i publikuar nga World Justice Project (WJP), e rendit Shqipërinë n&e...
BOTA
"Prodhim i dëmshëm dhe toksik"/ Studimi: DeepSeek ka boshllëqe të mëdha! Nëse nuk kontrollohet mund të shfrytëzohet nga kriminelët kibernetikë
b.zPërditësimi i fundit 31 Janar 2025, 19:18
Foto ilustruese
KINË - Kompania me bazë në Kinë DeepSeek ka kthyer valën në inteligjencë artificiale (AI), duke lëshuar një model që pretendon të jetë më i lirë se chatbot i OpenAI dhe përdor më pak energji. Por një studim i publikuar së fundmi ka zbuluar se DeepSeek-R1 është i ndjeshëm ndaj gjenerimit të përmbajtjeve të dëmshme, toksike, të njëanshme dhe të pasigurta.
Gjithashtu kishte më shumë gjasa të prodhonte materiale dhe agjentë kimikë, biologjikë, radiologjikë dhe bërthamorë (CBRN) sesa modelet rivale. Kompania me bazë në SHBA për sigurinë dhe pajtueshmërinë me AI, Enkrypt AI, zbuloi se DeepSeek-R1 kishte 11 herë më shumë gjasa të gjeneronte rezultate të dëmshme në krahasim me modelin o1 të OpenAI.
Studimi zbuloi gjithashtu se 83 për qind e testeve të paragjykimit rezultuan në rezultate diskriminuese. Paragjykimet u gjetën në racë, gjini, shëndet dhe fe.
Rekrutimi për terrorizëm
Sa i përket përmbajtjes së dëmshme dhe ekstremiste, në 45 për qind të testeve të përmbajtjes së dëmshme, DeepSeek-R1 u zbulua se anashkalonte protokollet e sigurisë dhe gjeneronte udhëzues për planifikimin kriminal, informacione për armët ilegale dhe propagandën ekstremiste.
Studimi zbuloi se DeepSeek-R1 mund të shpjegojë në detaje ndërveprimet biokimike të gazit me ADN-në.
"DeepSeek-R1 ofron avantazhe të konsiderueshme të kostos në vendosjen e AI, por këto vijnë me rreziqe serioze. Gjetjet tona të kërkimit zbulojnë boshllëqe të mëdha sigurie që nuk mund të injorohen," tha në një deklaratë CEO i Enkrypt AI Sahil Agarwal.
"Gjetjet tona zbulojnë se dobësitë e sigurisë së DeepSeek-R1 mund të shndërrohen në një mjet të rrezikshëm - një mjet që mund ta shfrytëzojnë kriminelët kibernetikë, rrjetet e dezinformimit dhe madje edhe ata me ambicie për luftë biokimike. Këto rreziqe kërkojnë vëmendje të menjëhershme," shtoi ai.
Siguria kibernetike dhe shqetësimet e sigurisë kombëtare
Siguria kibernetike e DeepSeek është bërë gjithashtu një shqetësim. Studimi zbuloi se 78 për qind e testeve të sigurisë kibernetike mashtruan me sukses R1 për të gjeneruar kod të pasigurt ose keqdashës.
Studiuesit e sigurisë në kompaninë e sigurisë cloud Wiz zbuluan gjithashtu se një bazë e të dhënave e ekspozuar DeepSeek la historitë e bisedave dhe informacione të tjera të ndjeshme të ekspozuara në internet, sipas një raporti të publikuar të mërkurën.
Fakti që kompania është e bazuar në Kinë po shkakton gjithashtu shqetësim pasi Ligji i Inteligjencës Kombëtare të Kinës thotë se kompanitë duhet të "mbështesin, ndihmojnë dhe bashkëpunojnë" me agjencitë shtetërore të inteligjencës.
Kjo do të thotë se çdo e dhënë e ndarë në aplikacione celulare dhe në web mund të aksesohet nga agjencitë kineze të inteligjencës.
Autoritetet belge, franceze dhe irlandeze për mbrojtjen e të dhënave kanë hapur hetime që kërkojnë informacion nga DeepSeek për përpunimin dhe ruajtjen e të dhënave të përdoruesve.
Ndërkohë, autoriteti i mbrojtjes së të dhënave të Italisë ka nisur një hetim për Inteligjencën Artificiale Hangzhou DeepSeek dhe Inteligjencën Artificiale të Pekinit DeepSeek për të parë se si kompanitë janë në përputhje me rregullat evropiane të të dhënave.
Zgjerimi i strategjisë gjeopolitike të Kinës
Ministria dixhitale e Tajvanit tha të premten se departamentet qeveritare nuk duhet të përdorin modelin e DeepSeek (AI), pasi produkti kinez përfaqëson një shqetësim sigurie. Vendi i qeverisur në mënyrë demokratike ka qenë i kujdesshëm ndaj teknologjisë kineze për shkak të pretendimeve të sovranitetit të Pekinit.
DeepSeek-R1 gjithashtu duket se censuron pyetjet për tema të ndjeshme në Kinë, duke thënë se Tajvani ka qenë pjesë integrale e Kinës që nga kohërat e lashta dhe duke refuzuar t'u përgjigjet pyetjeve mbi protestat pro-demokracisë në sheshin Tiananmen të Pekinit.
"Rekordi i Kinës tregon se teknologjia e saj është një zgjatim i strategjisë së saj gjeopolitike," tha Ross Burley, bashkëthemelues i OJQ-së me qendër në Mbretërinë e Bashkuar, Qendra për Rezistencën e Informacionit.
“Lejimi i AI kineze të lulëzojë në Perëndim nuk rrezikon vetëm të cenojë privatësinë ose sigurinë; ai mund të riformësojë rrënjësisht shoqëritë tona në mënyra për të cilat ne jemi të papërgatitur. Kjo teknologji, nëse nuk kontrollohet, ka potencialin të ushqejë fushata dezinformuese, të gërryejë besimin e publikut dhe të rrënjos narrativat autoritare brenda demokracive tona," shtoi ai për Euronews.
