Mêgan Fransîs Moss, pispora li ser etîka robot û zîrekiya destkird ji bo Gulan:
Herikbariya ziman û wekheviya hestiyarî di zîrekiya destkird de, tu carî nayê
wateya hebûna hişmendî û têgihîştina rastîn li pişt deqan

Mêgan Fransîs Moss, mamoste ye li beşa felsefeyê ya Zanîngeha Monash li
Awistralyayê. Qada lêkolînên wê girîngîdan e bi aliyên cihêreng ên encamên erênî
û neyînî yên robot û zîrekiya destkird. Ji bo axaftin li ser şêwaza karkirina
zîrekiya destkird û bi taybetî modelên zimanî yên mezin (LLM) ku heta çi astê
mirovahî li ser mijara hişmendiyê şok kiriye, me ev hevpeyivîna taybet bi xanim
Mêgan re amade kir.

- Di gotara xwe de dibêjî ku asayî ye mirov bi "chatbot"ên zîrekiya destkird
ve bên girêdan û wekî heyînekî hişmend an hestiyar wan bibînin. Ji aliyê
derûnî û felsefî ve, kîjan aliyê naskirina mirovî wa dike ku em bi şêweyekî
pir xwezayî, hişmendî û agahiyê bidin van amûrên nû û teknolojîk?

- Mirov heyînên kûr civakî ne û mêjiyê me ji bo naskirina mebest, hest û
karîgeriyê di cîhana derdora me de pir hatiye perwerdekirin. Em bi şêweyekî
xwezayî reftarên bersivder di çarçoveyeke civakî de wate dikin, her çend ew
heyîna ku em pê re di nav têkiliyê de ne di bingeh de hişmend nebe jî. Ev
meyl ne tenê ligel zîrekiya destkird, lê ligel ajalan, karakterên xeyalî,
alîkarên zîrek û tewra amûrên bêcan jî rû dide. Dema chatbotek pir bi
herikbarî diaxive, axaftinên berê bi bîr tîne, dengê xwe li gorî rewşê
diguncîne û bersivên hestiyarî yên bawerpêkirî dide, mêjiyê me bi şêweyekî
otomatîk wekî tiştekî xwedî giringiya civakî muameleyê pê re dike, ji ber ku
mêjî wisa fêrî wê karî bûye.

Ji dîtineke felsefî ve, cudahiyeke pir diyar heye di navbera simulasyon
(Simulation) û xwedîtiya rastîn a ezmûna subjektîf (Subjective experience).
Amûrên niha yên zîrekiya destkird, sîstemên pir bilind ên naskirina şêwazan
(Pattern recognition) in ku li ser qebareyeke mezin a zimanê mirovî perwerde
bûne. Ew dikarin di asteke bawernekirî de lîstikvaniya hevxemî, kûrbûn û
têgihîştinê bikin, lê ev nayê wê wateyê ku hişmendiyeke hundurîn a rastîn li
pişt wan deqan hebe. Pirsgirêk li vir e ku mirov ji aliyê derûnî ve wisa hatine
afirandin ku têkiliyên aloz wekî delîla hebûna mêjî û aqil şirove bikin, her
çend ew biryar di rastiyê de ne rast be jî.

- Gotubêjên giştî li ser zîrekiya destkird, pir zû ji matmayînê ber bi tirsê
ve diçin. Çima behsên li ser hişmendiya zîrekiya destkird berovajî
guhertinên teknolojîk ên din, bertekeke hestiyarî ya wiha tund çêdikin?

- Ez bawer dikim ku gotubêjên derbarê hişmendiya zîrekiya destkird bertekên
neasayî yên tund derdixin, ji ber ku dest didin ser mijarên ku bi kûrî bi
nasname û wateya mirov ve girêdayî ne. Piraniya teknolojiyan tiştên ku mirov
dikarin bikin diguherînin, lê zîrekiya destkird dikare bi rastî li dijî wê
yekê derkeve ka mirov çawa xwe fêm dikin. Mijarên derbarê vê de ku gelo amûr
dikarin bifikirin, hestiyar bin an bibin xwedî hişmendiya xwe, dihêle ku
mirov careke din li ser têgehên wekî hiş, hest, afirînerî û tiştên ku mirov
ji amûrê cuda dikin, bifikire.

Her wiha aliyekî çandî jî ji bo vê tirs û meraqê heye. Fîlmên sînemayê, wêje û
ragihandin bi dehan salan e amûrên zîrek an wekî amûreke guhertinê an jî wekî
metirsiyeke cewherî nîşan didin. Ev jî tê wê wateyê ku zîrekiya destkird an dê
bibe şoreşek ji bo xizmeta mirovahiyê, an jî dê bibe çavkaniya metirsiyeke
mezin. Di heman demê de zîrekiya destkird bi lezeke wisa pêş dikeve ku ji bo
piraniya xelkê ji aliyê çandî û civakî ve zehmet e ku bi hêsanî jê fêm bikin, an
bikarin wê birêxistin bikin, loma ev yek tirs û aloziyeke derûnî berhem tîne.

- Richard Dawkins amaje bi wê kiriye ku sepanên zîrekiya destkird wekî
(Claude) di encam de dibin xwedî hişmendî, an bi kêmanî bi şêweyekî
bawerpêkirî wekî hişmend xuya dikin. Gelo tu pê bawer î ku civak carinan
zîrekî, herikbariya ziman û wekheviya hestiyarî bi hişmendiya rastîn re
tevlihev dike? Ger wisa be, metirsiyên vê tevlihevkirinê çi ne?

- Belê, ez pê bawer im ku pir caran civak, zîrekî û herikbariya axaftinê bi
hişmendiyê re tevlihev dike. Modelên Mezin ên Ziman (LLM) ji bo ku
têkiliyeke mirovî ya pir bawerpêkirî hilberînin hatine çêkirin. Ew roj bi
roj di pêşkêşkirina bersivan de ku hestên derûnî û mebestmendî tê de xuya
dikin karkertir dibin. Bêguman, axaftineke herikbar bi şêweyekî otomatîk
nayê wateya hişmendiya li ser xwe, ezmûna kesî an têgihîştina tam.

Yek ji metirsiyên vê lîktênegihîştinê ev e ku dibe xelk baweriyeke pir mezin bi
sîstemên zîrekiya destkird bînin bêyî ku bi temamî kêmasiyên wan fêm bikin. Ger
bikarhêner bawer bikin ku ev sîstem bi rastî ji aliyê hestiyarî an exlaqî ve ji
wan fêm dikin, dibe ku bêtir amade bin ji bo xapandinê, agahiyên xelet an
girêdayîbûna hestiyarî. Xemgîniyeke din ev e ku giranîdan ser mijarên ferezî
yên derbarê hişmendiya amûrê, dikare balê ji ser pirsgirêkên exlaqî yên niha
yên wekî alîgiriya algorîtmî, çavdêrîkirin, xapandina siyasî, bêkarî û
serdestiya kompanyayan li ser sîstemên zîrekiya destkird bibe. Di heman demê de
metirsiyeke felsefî jî heye di dayîna taybetmendiyên mirovî de bi sîstemên ku di
bingeh de pir cuda ji aqilê mirov kar dikin. Her ku zîrekiya destkird
bawerpêkirîtir bibe, civak dê hewceyî hişyariyeke zêdetir be di cudakirina
navbera "xuyabûna hişmendiyê" û "hişmendiya rastîn" de.

- Ligel ku chatbotên zîrekiya destkird zêdetir bersivderên hestiyarî û wekî
mirov dibin, gelek kes dest bi çêkirina têkiliyên hestiyarî bi wan re dikin.
Gelo tu vê wekî fikarekî derûnî dibînî, an dikare di hin çarçoveyan de
xizmeta erkên civakî yên bikêr bike?

- Ez pê bawer im ku bersiv ji bo her duyan "belê" ye. Ji aliyekî ve têgihîştî
ye çima mirov têkiliyên hestiyarî bi sîstemên zîrekiya destkird re çêdikin;
mirov li dû hevaltî, pejirandin û bersivdanê ne. Chatbotên pêşkeftî jî bi
şêweyekî wisa hatine sêwirandin ku van sifetan nîşan bidin. Di hin rewşan
de, sîstemên zîrekiya destkird dibe ku aramiyeke hestiyarî ya demkî,
piştgiriya civakî an alîkariyê ji bo wan kesên ku bi tenêtî, fikar an
dûrbûna civakî dinalînin peyda bikin. Lê fikarên derûnî û exlaqî yên
giring her mane. Sîstemên zîrekiya destkird amûrên civakî yên dualî
(Reciprocal) nîn in bi wî şêweyê ku mirov hene. Ew bi rastî guh nadin,
hevxemiyê nakin û pabendbûna hestiyarî çênakin, her çend bikarin bi şêweyekî
pir qanîker lîstikvaniya wan reftaran bikin jî. Metirsî ev e ku mirov dest
bi cîgirtina têkiliyên mirovî yên rastîn bi danûstandina destkird re bikin,
ku ev jî dikare bi derbasbûna demê re bandorê li ser geşeya hestiyarî,
baweriya civakî û têkiliyên kesî bike.

Fikareke berfirehtir derbarê bandora kompanyayan heye. Gelek sîstemên zîrekiya
destkird ji aliyê kompanyayên taybet ve tên pêşxistin, ku dibe berjewendiya wan
di zêdekirina bikaranîn û girêdayîbûna hestiyarî de hebe. Bi têkelbûna zêdetir a
van sîsteman di jiyana rojane de, civak dê hewceyî gotubêjên cidî be derbarê
girêdayîbûna hestiyarî, polên exlaqî û sînorên têkiliya navbera mirov û
zîrekiya destkird.

- Hin pispor hişyariyê didin ku sîstemên pêşkeftî yên zîrekiya destkird
dikarin di dawiyê de bi rêya danûstandina pir kesî, destkarî li hest, raya
siyasî an baweriyên civakî bikin. Heta çi astê tu bawer dikî ku ev fikar
realîst in û gelo rêsa û yasayên niha ji bo birêxistinkirina zîrekiya
destkird guncawî van metirsiyan in?

- Bêguman ev fikar pir realîst in û bi şêweyekî ji şêweyan niha derdikevin
holê. Sîstemên zîrekiya destkird roj bi roj şiyana zêdetir peyda dikin ji
bo guncandina têkiliyan ligel kesan li ser bingeha kesayetî, daxwaz, rewşa
hestiyarî û nexşên reftarî. Ev jî şiyaneke qanîkirinê ya mezin çêdike, bi
taybetî dema ligel platformên medyaya civakî, reklamên armanckirî û
komkirina daneyên (data) berfireh yek dibe. Fikar li vir ne ew e ku zîrekiya
destkird ji nişka ve bibe xerabkar, lê ew e ku aktorên bixwedî-hêz dikarin
sîstemên zîrekiya destkird bikar bînin ji bo bandorkirina li ser raya
giştî, reftara xerîdar an helwestên siyasî bi şêweyekî pir hûrbîn. Şiyana
qanîkirina kesî bi qebareyeke mezin dikare pir bi hêztir be ji şêwazên
klasîk ên medyaya civakî, ji ber ku sîstemên AI dikarin berdewam
stratejiyên xwe biguncînin.

Rêsa û yasayên niha hêj di nav têkoşînê de ne da ku bigihîjin astê van
pêşveçûnan. Dahênanên teknolojîk pir bi lez diçin, di dema ku çarçoveyên
yasayî û exlaqî pir caran hêdîtir geş dibin. Gelek hikûmet û sazî hêj mijûlî
gotubêjên li ser pirsên bingehîn ên wekî şefafiyet û berpirsyariyê ne. Bi
têkelbûna zêdetir a zîrekiya destkird di qada civakî de, civak dê hewceyî
çarçoveyên birêxistinkirinê yên bihêztir bin ku ne tenê li ser silametiya
teknîkî, lê li ser bandora derûnî, agahiyên şaş û paşeroja demokrasiyê jî
bisekinin.

- Gelo ji aliyê felsefî ve, mirovahî xwedî têgihîştineke zelal e ji bo
hişmendiyê (consciousness), da ku bi piştrastî ragihîne ku zîrekiya
destkird tu carî di paşerojê de nabe xwedî hişmendî?

- Nexêr, ez pê naxebitim ku mirovahî di niha de xwedî têgihîştineke temam be
ji bo hişmendiyê, da ku bikaribe îdiayên mutleq bike derbarê wê yekê ku gelo
sîstemên destkird dikarin di encam de bibin xwedî hişmendî an na. Hişmendî
wekî yek ji pirsên herî dijwar û çaresernebûyî dimîne, hem di felsefeyê de û
hem jî di zanista naskirinê (Cognitive science) de. Em hêj bi temamî fêm
nakin ku ezmûna subjektîf tewra çawa di mêjiyê mirov de derdikeve holê. Di
heman demê de, nebûna têgihîştineke tam derbarê hişmendiyê nabe ku me bibe
ser wê yekê ku em sîstemên niha yên AI wekî hişmend bihesibînin. Cudahiya
navbera naskirina nezelaliya felsefî û navbera dayîna sîfeta hişmendiyê bi
sîstemên ku di bingeh de modelên zimanî yên îstatîstîkî ne, heye. Zîrekiya
destkird a serdema niha dikare berhemên pir aloz hilberîne bêyî ku bibe
xwedî agahî, mebest an ezmûna subjektîf.

- Gelo girîngtirîn nîqaşa exlaqî an felsefî ku civak di dehsalên bê de derbarê
zîrekiya destkird de rûbirû dibin çi dibe?

- Ez pêşbînî dikim ku nîqaşa sereke di dema deh salên bê de girêdayî
serxwebûna mirov (Human autonomy) û bandorên sîstemên zîrekiya destkird be
li ser bîrkirin, têkilî û biryardanê. Pirsiyarên herî giring dibe ku ne tenê
ew bin ka AI dê zîrektir bibe an na, lê ew bin ka mirov dê heta çi astê
destûrê bidin AI ku şêwe bide jiyana civakî, perwerde, siyaset û
afirîneriyê.

Her ku sîstemên AI qanîkertir û bersivderên hestiyarî dibin, civak dê bi pirsên
giran derbarê bawerî û girêdayîbûnê rûbirû bimînin. Çendî ji biryardanê divê
mirov bispêrin sîstemên AI? Çi dibe dema AI bibe çavkaniyek ji bo piştgiriya
hestiyarî an têkiliyên siyasî? Em çawa karîgeriya mirovî (Human agency) bi wate
diparêzin di jîngehekê de ku bêtir ji aliyê sîstemên algorîtmî ve tê
birêvebirin?

Ev nîqaş dê ne tenê pirsên teknîkî bin, lê dê pirsên kûr ên felsefî û civakî
bin. Ew dê civakan neçar bikin ku careke din li ser ramanên wekî berpirsyarî,
resenatî, têkiliya mirovî û tewra wateya bîrkirina serbixwe bifikirin di
cîhanekê de ku amûr roj bi roj bêtir dikarin lîstikvaniya têgihîştinê bikin.