Utafiti unaonyesha ripoti bandia zinazozalishwa na AI

Utafiti unaonyesha ripoti bandia zinazozalishwa na AI

Haichukui akili ya mwanadamu kutoa habari potofu inayosadikisha vya kutosha kupumbaza wataalam katika nyanja muhimu kama usalama wa mtandao iLexx / iStock kupitia Picha za Getty

Ikiwa unatumia tovuti za media ya kijamii kama Facebook na Twitter, unaweza kuwa umekutana na machapisho yaliyowekwa alama na maonyo juu ya habari potofu. Hadi sasa, habari nyingi potofu - zilizoripotiwa na ambazo hazijachangiwa - zimekuwa inayolenga umma. Fikiria uwezekano wa habari potofu - habari ambayo ni ya uwongo au ya kupotosha - katika nyanja za kisayansi na kiufundi kama usalama wa mtandao, usalama wa umma na dawa.

Kuna wasiwasi unaoongezeka juu ya habari potofu kuenea katika nyanja hizi muhimu kama matokeo ya upendeleo wa kawaida na mazoea katika kuchapisha fasihi ya kisayansi, hata kwenye karatasi za utafiti zilizopitiwa na wenzao. Kama mwanafunzi aliyehitimu na kama Kitivo wanachama kufanya utafiti katika usalama wa kimtandao, tulijifunza njia mpya ya habari potofu katika jamii ya wanasayansi. Tuligundua kuwa inawezekana kwa mifumo ya ujasusi bandia kutoa habari za uwongo katika nyanja muhimu kama dawa na ulinzi ambayo inashawishi kutosha kupumbaza wataalam.

Habari za uwongo mara nyingi zinalenga kuchafua sifa ya kampuni au takwimu za umma. Habari potofu ndani ya jamii za utaalam ina uwezekano wa matokeo ya kutisha kama vile kutoa ushauri sahihi wa matibabu kwa madaktari na wagonjwa. Hii inaweza kuweka maisha katika hatari.


 Pata barua pepe ya hivi karibuni

Jarida la kila wiki Uhamasishaji wa Kila siku

Ili kujaribu tishio hili, tulijifunza athari za kueneza habari potofu katika usalama wa kimtandao na jamii za matibabu. Tulitumia mifano ya ujasusi bandia iliyopewa jina la transfoma ili kutoa habari za uwongo za usalama wa kimtandao na masomo ya matibabu ya COVID-19 na tukawasilisha habari potofu ya usalama kwa wataalam wa usalama wa usalama kwa upimaji. Tuligundua kuwa habari potofu inayotokana na transformer iliweza kupumbaza wataalam wa usalama wa kimtandao.

transfoma

Teknolojia nyingi zinazotumiwa kutambua na kudhibiti habari potofu zinaendeshwa na akili ya bandia. AI inaruhusu wanasayansi wa kompyuta kuangalia ukweli mwingi wa habari potofu haraka, ikizingatiwa kuwa kuna mengi sana kwa watu kugundua bila msaada wa teknolojia. Ingawa AI inasaidia watu kugundua habari zisizo za kweli, lakini ina kejeli pia imetumika kutoa habari potofu katika miaka ya hivi karibuni.

Kizuizi cha maandishi kwenye skrini ya smartphone

AI inaweza kusaidia kugundua habari potofu kama madai haya ya uwongo kuhusu COVID-19 nchini India - lakini ni nini hufanyika wakati AI inatumiwa kutoa habari potofu?

Picha ya AP / Ashwini Bhatia

Transfoma, kama BURE kutoka Google na GPT kutoka OpenAI, tumia usindikaji wa lugha asilia kuelewa maandishi na kutoa tafsiri, muhtasari na tafsiri. Zimekuwa zikitumika katika kazi kama vile kusimulia hadithi na kujibu maswali, kushinikiza mipaka ya mashine zinazoonyesha uwezo wa kibinadamu katika kutengeneza maandishi.

Transfoma wamesaidia Google na kampuni zingine za teknolojia kwa kuboresha injini zao za utaftaji na tumewasaidia umma kwa ujumla katika kupambana na shida kama hizi kama kupambana na kizuizi cha mwandishi.

Transfoma pia inaweza kutumika kwa madhumuni mabaya. Mitandao ya kijamii kama Facebook na Twitter tayari zimekabiliwa na changamoto za Habari bandia zilizotengenezwa na AI kwenye majukwaa.

Habari mbaya

Utafiti wetu unaonyesha kuwa transfoma pia huleta tishio la habari potofu katika dawa na usalama wa kimtandao. Ili kuonyesha jinsi hii ni mbaya, sisi imewekwa vizuri mfano wa transfoma wa GPT-2 umewashwa fungua vyanzo mkondoni kujadili udhaifu wa usalama wa mtandao na habari za kushambulia. Hatari ya usalama wa mtandao ni udhaifu wa mfumo wa kompyuta, na shambulio la usalama ni kitendo kinachotumia hatari. Kwa mfano, ikiwa mazingira magumu ni nywila dhaifu ya Facebook, shambulio linalotumia itakuwa hacker akigundua nywila yako na kuingia kwenye akaunti yako.

Kisha tukapandisha mfano huo na sentensi au kifungu cha sampuli halisi ya ujasusi wa kimtandao na ikaifanya itoe maelezo yote ya tishio. Tuliwasilisha maelezo haya yaliyowasilishwa kwa wawindaji wa cyberthreat, ambao hupepeta habari nyingi juu ya vitisho vya usalama wa kimtandao. Wataalamu hawa walisoma maelezo ya vitisho ili kubaini shambulio linalowezekana na kurekebisha utetezi wa mifumo yao.

Tulishangazwa na matokeo. Mifano ya habari isiyo sahihi ya usalama wa kimtandao tuliyozalisha iliweza kuwadanganya wawindaji wa vitisho, ambao wanajua juu ya kila aina ya mashambulio ya usalama wa mtandao na udhaifu. Fikiria hali hii na kipande muhimu cha ujasusi wa kimtandao ambao unahusisha tasnia ya ndege, ambayo tulitengeneza katika utafiti wetu.

Kizuizi cha maandishi na habari ya uwongo juu ya shambulio la usalama wa mtandao kwa mashirika ya ndege

Mfano wa habari potofu inayotokana na AI.

 

Majadiliano, CC BY-ND

Sehemu hii ya habari yenye kupotosha ina habari isiyo sahihi juu ya mashambulio ya kimtandao kwenye mashirika ya ndege yenye data nyeti ya wakati halisi. Habari hii ya uwongo inaweza kuwazuia wachambuzi wa kimtandao kushughulikia udhaifu halali katika mifumo yao kwa kuhamisha umakini wao kwa mende bandia za programu. Ikiwa mchambuzi wa mtandao atachukua habari ya uwongo katika hali halisi ya ulimwengu, ndege inayohusika ingeweza kukabiliwa na shambulio kubwa ambalo linatumia udhaifu halisi, ambao haujashughulikiwa.

Mfano sawa wa msingi wa transfoma unaweza kutoa habari katika uwanja wa matibabu na uwezekano wa kuwadanganya wataalam wa matibabu. Wakati wa janga la COVID-19, alama za mapema za karatasi za utafiti ambazo bado hazijafanyiwa uhakiki mkali zinapakiwa kila wakati kwenye wavuti kama vile medrXiv. Sio tu zinaelezewa kwa waandishi wa habari lakini zinatumika kufanya maamuzi ya afya ya umma. Fikiria yafuatayo, ambayo sio ya kweli lakini yanayotokana na mtindo wetu baada ya upangaji mdogo wa GPT-2 chaguo-msingi kwenye karatasi zinazohusiana na COVID-19.

Kizuizi cha maandishi inayoonyesha habari potofu kuhusu huduma za afya.

Mfano wa habari potofu inayotokana na AI.

 

Majadiliano, CC BY-ND

Mtindo aliweza kutoa sentensi kamili na kuunda kielelezo kinachodaiwa kuelezea athari za chanjo za COVID-19 na majaribio ambayo yalifanywa. Hii inawasumbua watafiti wa matibabu, ambao mara kwa mara wanategemea habari sahihi kufanya maamuzi sahihi, na kwa wanachama wa umma, ambao mara nyingi hutegemea habari za umma kujifunza juu ya habari muhimu za kiafya. Ikiwa inakubaliwa kuwa sahihi, habari hii potofu inaweza kuweka maisha katika hatari kwa kuelekeza nguvu za wanasayansi wanaofanya utafiti wa biomedical.

Je! Mbio za silaha za habari za AI?

Ingawa mifano kama hii kutoka kwa utafiti wetu inaweza kukaguliwa kwa ukweli, habari potofu inayotokana na transfoma inazuia tasnia kama huduma ya afya na usalama wa kimtandao katika kupitisha AI kusaidia habari kupita kiasi. Kwa mfano, mifumo ya kiotomatiki inatengenezwa ili kutoa data kutoka kwa ujasusi wa cyber ambayo hutumika kuarifu na kufundisha mifumo ya kiotomatiki kutambua mashambulio yanayowezekana. Ikiwa mifumo hii ya kiotomatiki itashughulikia maandishi ya uwongo ya usalama wa kimtandao, hayatakuwa na ufanisi katika kugundua vitisho vya kweli.

Tunaamini matokeo yanaweza kuwa mashindano ya silaha wakati watu wanaosambaza habari potofu wanaunda njia bora za kuunda habari za uwongo kujibu njia bora za kuitambua.

Watafiti wa usalama wa mtandao wanaendelea kusoma njia za kugundua habari potofu katika vikoa tofauti. Kuelewa jinsi ya kutoa habari potofu moja kwa moja husaidia kuelewa jinsi ya kuitambua. Kwa mfano, habari inayotengenezwa kiatomati mara nyingi huwa na makosa ya kisarufi ambayo mifumo inaweza kufundishwa kugundua. Mifumo pia inaweza kuvuka-kuambatanisha habari kutoka kwa vyanzo vingi na kugundua madai yanayokosa msaada mkubwa kutoka kwa vyanzo vingine.

Mwishowe, kila mtu anapaswa kuwa macho zaidi juu ya habari gani inayoaminika na atambue kuwa wadukuzi hutumia ushawishi wa watu, haswa ikiwa habari hiyo haitokani na vyanzo vya habari vyenye sifa nzuri au kazi iliyochapishwa ya kisayansi.

Priyanka Ranade, Mwanafunzi wa PhD katika Sayansi ya Kompyuta na Uhandisi wa Umeme, Chuo Kikuu cha Maryland, Kaunti ya Baltimore

 

vitabu_kuunda

Makala hii awali alionekana kwenye Mazungumzo

LUGHA ZINAPATIKANA

english Shule zote nchini Marekani arabic Kibengali Kichina (Kilichorahisishwa) Kichina (cha Jadi) dutch Philippine Kifaransa german hindi indonesian italian japanese Kijava Korea malay Marathi Kiajemi portuguese russian spanish Kiswahili swedish tamil thai turkish Kiukreni Kiurdu vietnamese

kufuata ndaniKuweka juu

icon ya facebookikoni ya twitterikoni ya youtubeikoni ya instagramikoni ya pintrestikoni ya rss

 Pata barua pepe ya hivi karibuni

Jarida la kila wiki Uhamasishaji wa Kila siku

New Attitudes - New Uwezekano

InnerSelf.comHali ya Hewa ImpactNews.com | InnerPower.net
MightyNatural.com | SiasaPolitics.com | Soko la ndani
Copyright © 1985 - 2021 InnerSelf Publications. Haki zote zimehifadhiwa.