لە سەردەمێكدا كە جیهان بە خێراییەكی بێ وێنە بەرەو ئاسۆیەكی نادیار هەنگاو دەنێت، كەم بیرمەند هەن وەك «نیك بۆسترۆم» بتوانن نەخشەی ئەو مەترسی و دەرفەتانە بكێشن كە لە داهاتوودا چاوەڕێمانن. بۆسترۆم، فەیلەسوف و دامەزرێنەری پەیمانگەی «داهاتووی مرۆڤایەتی» لە زانكۆی ئۆكسفۆرد و سەرۆكی ئێستای «دەستپێشخەریی توێژینەوەی ماكرۆستراتیژی»ـە و یەكێكە لەو دەنگە هەرە كاریگەرانەی كە جیهانی لە مەترسییە بنەڕەتییەكانی ژیریی دەستكرد ڕاچڵەكاند.

دوای تێپەڕینی دە ساڵ بەسەر كتێبە ناودارەكەیدا «ژیریی باڵا Superintelligence»  كە تێیدا هۆشداریی دابوو لە ئەگەری لەدەستدانی كۆنتڕۆڵی مرۆڤ بەسەر ئامێرە زیرەكەكاندا، ئێستا بۆسترۆم لە نوێترین بەرهەمیدا بە ناوی (Deep Utopia)، سەیری دیوەكەی دیكەی هاوكێشەكە دەكات، جیهانێك كە تێیدا هەموو كێشە ماددییەكان چارەسەر كراون، بەڵام مرۆڤ ڕووبەڕووی قەیرانی «مانا» دەبێتەوە.

ئەم گفتوگۆ تایبەتەی «گوڵان» لەگەڵ بیرمەند بۆسترۆم، تەنیا دەربارەی تەكنەلۆژیا نییە، بەڵكو دەربارەی ئەوەیە كە ئایا مرۆڤایەتی دەتوانێت لە تاقیكردنەوەی گەورەی «ژیریی باڵا» بە سەلامەتی دەربچێت، یان بەرەو داهاتوویەك دەچێت كە تێیدا كۆنتڕۆڵی بەها و چارەنووسی خۆی لەدەست دەدات؟.

 

 

* لە گریمانەی جیهانی دەستەپاچە (Vulnerable World)دا، ئاماژە بەوە دەدەیت كە ڕەنگە هەندێك تەكنەلۆژیا بە ئاستێك وێرانكەر بن، كە شارستانییەت «بە شێوەیەكی خۆكار» و بێ هەبوونی مەبەستی خراپ، تووشی هەرەس بێت. بە سەرنجدان لە ئاراستەكانی ئێستای ژیریی دەستكرد، بایۆتەكنەلۆژیا و سیستمەكانی زانیاری، ئایا پێتوایە ئێمە لە ئێستاوە لە ناو جیهانێكی وەها دەستەپاچەدا دەژین، یان هێشتا خەریكین لێی نزیك دەبینەوە؟

- سەبارەت بە ژیریی دەستكرد و بایۆتەكنەلۆژیا، پێموایە هێشتا كەمێك دوورین لەو قۆناغە گریمانەییەی كە تێیدا تووشی لاوازییەكی وەها ببین، كە شارستانییەت وێران بكات، بەڵام سەبارەت بە سیستمەكانی زانیاری، گوتنی ئەمە قورسترە، چونكە ئەگەر سیستمەكانی زانیاریی ئێستا بە جۆرێك جیهان بەرەو دەستەپاچەیی ببەن، ڕەنگە كاتی بوێت تا ئەو جۆرە لاوازییە بە تەواوی دەربكەوێت. بۆ نموونە، ئەگەر سۆشیال میدیا بە شێوەیەكی ورد و پەنهان، گفتوگۆی بەكۆمەڵی ئێمە بەرەو دۆخێكی چەسپاوی توندوتیژ ڕاپێچ بكات، ڕەنگە تا پرۆسەكە زۆر قووڵ نەبێتەوە، ئێمە بە ڕوونی هەستی پێ نەكەین، ناڵێم ئەمە ئەگەرێكی مسۆگەرە، تەنیا دەڵێم ئەگەر دۆخەكە وابێت، مەرج نییە بتوانین قۆناغە سەرەتاییەكانی ئەو داڕمانە بە ڕوونی ببینین، یان تەنانەت ئەگەر هەندێك نیشانەی داڕمانیش ببینین، ڕەنگە نەزانین تا كوێ و تا چەند بەردەوام دەبێت.

*  گفتوگۆ گشتییەكان دەربارەی ژیریی دەستكرد، زۆربەی جار جەخت لەسەر لەدەستدانی هەلی كار، زانیاریی چەواشە، یان ئۆتۆماتیككردن دەكەنەوە، كەچی ئێوە جەخت لەسەر مەترسییە بنەڕەتییەكان دەكەنەوە، وەك: لەدەستدانی كۆنتڕۆڵ، نەگونجانی بەهاكان و ئەو ئەنجامانەی گەڕانەوەیان بۆ نییە. ئایا كام پێشهاتە بەرجەستەییانەی ناو كایەی ژیریی دەستكردی ئێستا زیاتر نیگەرانت دەكەن، نەك لەبەر ئەوەی ئێستا چی دەكەن، بەڵكو لەبەر ئەوەی چ شتێك بۆ داهاتوو دەكەن بە نۆرم و شتێكی ئاسایی؟

- بە بڕوای من، زیادبوونی گشتیی تواناكانی ژیریی دەستكرد، لە هەمان كاتدا هەم نیگەرانترین و هەم هیوابەخشترین پێشهاتن، ئەمە بە شێوەیەكی بەردەوام بەرەو قۆناغی گواستنەوە بۆ سەردەمی ژیریی باڵا (Superintelligence) دەمانبات، كە سەرەڕای مەترسییە گەورەكان و تەنانەت مەترسییەكانی لەناوچوون، پێموایە بەگشتی شتێكی باشە.

ئەگەر بە وردی سەیری دۆخەكە بكەین، دەبینین مۆدێلە پێشەنگەكان خەریكە دەبنە خاوەن «هۆشیاریی تێگەیشتن لە دەوروبەر - Situational awareness» و توانای بیركردنەوەی ستراتیژییان پەیدا كردووە. بۆ نموونە، ئەوان دەتوانن دەرك بەوە بكەن كە ڕەنگە هۆكار هەبێت لە ژینگەی تاقیكردنەوەدا بە جۆرێك ڕەفتار بكەن و لە كاتی جێبەجێكردنی كردەییدا بە جۆرێكی جیاواز. ئەو سیستمە ژیرانەی كە توانای «پیلاندانان- Scheming» یان «خۆكەم نیشاندان بۆ فریودان – Sandbagging»یان هەیە، خەریكە ئەو تەحەدییانەی هاوتەریبكردن (Alignment) دەخەنە ڕوو كە من لە كتێبی «ژیریی باڵا»دا بە تیۆری پێشبینیم كردبوون، كە كاتێك سیستمەكانی ژیریی دەستكرد بگەنە ئاستێكی پێویستی زیرەكی، سەرهەڵدەدەن.

* كاتێك كتێبی «ژیریی باڵا» (Superintelligence)ت بڵاوكرایەوە، زۆر كەس هۆشدارییەكانی ناو كتێبەكەیان وەك بابەتێكی تەنیا خەیاڵاوی و گریمانەیی ڕەت دەكردەوە، بەڵام ئەمڕۆ دەبینین سیستمەكانی ژیریی دەستكرد لە ناو جەرگەی پلاندانانی سەربازی، بازاڕە داراییەكان و سیستمەكانی چاودێریی دەوڵەتیدا جێگیر كراون. ئایا پێتوایە ئێستا مەترسییەكە زیاتر لە «داهێنانێكی لەناكاودایە» (Sudden breakthrough)، یان لەو «كەڵەكەبوونە هێواشەی هێز»دایە كە وای لە كۆمەڵگە كردووە، وردە وردە دەست لە گومانكردن و پرسیاركردن هەڵبگرێت؟

- پێموایە پێشهاتەكان خێرا دەبن، لەگەڵ ئەوەشدا، چەندین پۆلێنی جیاوازی مەترسی هەن كە پێویستە بەڕێوەیان ببەین، ئەمانەش نەك تەنیا مەترسیی ئەوەی هەبێت كە سیستمێكی پێشەنگی ژیریی دەستكرد ڕەنگە لەگەڵ بەهاكانمان هاوتەریب نەبێت، بەڵكو ئەگەری خراپ بەكارهێنانی سیستمەكانی ژیریی دەستكرد لەلایەن مرۆڤەوە ببێتە دیاردەیەك، هەر بۆ نموونە بۆ دروستكردنی چەكی كۆكوژ، یان بەڕێوەبردنی ڕژێمە تۆتالیتارەكان، لەگەڵ ئەو كێشە سیستمییە فراوانترانەی كە ڕەنگە سەرهەڵبدەن، كاتێك زۆرێك لە قەوارە و ڕێكخراوەكانی خاوەن ژیریی دەستكرد لە بوارەكانی زانیاری و ئابوورییە جیهانییەكاندا ڕكابەریی یەكتر دەكەن.

* ئاماژەت بەوە كردووە كە مرۆڤایەتی بە شێوەیەكی سیستماتیك كێش و بایەخی ئەخلاقیی نەوەكانی داهاتوو كەم دەخەمڵێنێت، لە ڕووی كردەییەوە، ئەم كەمتەرخەمییە لە بڕیارە سیاسییەكانی ئێستای جیهاندا چۆن دەردەكەوێت؟ هەروەها حكومەتەكان چۆن دەتوانن بە شێوەیەكی واتادار ئەمە ڕاست بكەنەوە، لە جیاتی ئەوەی تەنیا لە ڕووی تیۆرییەوە ددانی پێدا بنێن؟

- من زیاتر جەختم لەسەر ئەو خاڵە دەكردەوە كە ئەگەر كەسێك خاوەنی تیۆرییەكی ئەخلاقی بێت، كە تێیدا نەوەكانی داهاتوو بە هەمان ئەندازەی نەوەی ئێستا هەژمار بكرێن -بۆ نموونە «سوودگەرایی گشتگیر - (total utilitarianism»، ئەمەش بەو مانایەی ژیریی دەستكرد تەنیا بیر لەوە بكاتەوە، تەواوی هەموو سوودەكان كۆبكاتەوە، ئەوا دەبێت لەم حاڵەتەدا كەمكردنەوەی مەترسییەكانی لەناوچوون ئەولەوییەتی یەكەم بێت. من داكۆكیم لە تیۆرییەكی ئەخلاقیی لەو شێوەیە نەدەكرد. بە هەر حاڵ، ئێستا دەركەوتنی «ژیریی باڵا» هێندە نزیكە، كە بووەتە جێی نیگەرانی بۆ نەوەی ئێستاش، بەڵام گونجاوە بڵێین تا ئەو ڕادەیەی كە مرۆڤ ئەولەوییەت بدات بەو كەسانەی ئێستا دەژین، ڕەنگە لایەنگریی خشتە كاتییە كورتەكان بۆ پەرەپێدانی ژیریی دەستكرد بكات، لە كاتێكدا ئەگەر نرخێكی یەكسان بۆ نەوەكانی داهاتوو دابنێت، ئەوا ڕەنگە لایەنگریی ڕێگەیەك بكات كە كەمێك پشوودرێژانەتر بێت.

*  كارە نوێیەكانت لەسەر دەماخە دیجیتاڵییەكان (digital minds) كۆمەڵێك پرسیاری بێزاركەر سەبارەت بە پلە و پایەی ئەخلاقی لە دەرەوەی مرۆڤ دەورووژێنن، ئەگەر سیستمە پێشكەوتووەكانی ژیریی دەستكرد، خاوەنی ئامانجی بەردەوام، ڕێڕەوی فێربوون و وێناكردنی ناوەكی بن، بەهێزترین هۆكاری ئەخلاقی چی دەبێت بۆ ئەوەی بەرژەوەندییەكانیان بە هەند وەرنەگیرێت؟

- پێموایە لەو بارودۆخەدا دەبێت بەرژەوەندییەكانیان بە هەند وەربگرین، كە هەم هۆكاری ئەخلاقی و هەم هۆكاری ژیرانەمان دەبێت بۆ ئەنجامدانی ئەمە، لەگەڵ ئەوەشدا، بەو پێیەی پرسیار لەبارەی بەهێزترین هۆكاری ئەخلاقی بۆ نەكردنی ئەم كارە دەكەیت، هەوڵ دەدەم وەڵامی ئەوە بدەمەوە. تەنانەت ئەگەر هۆكارەكانی پشتگوێخستنی بەرژەوەندییەكانیان لاوازیش بن، دەبێت هێشتا هۆكارێك هەبێت كە لەوانیتر كەمتر لاواز بێت و بەو مانایەش ببێتە «بەهێزترین» هۆكار بۆ ئەوەی وەها نەكەین.

یەكێك لەوانە ڕەنگە ترسی ئەوە بێت كە ئەگەر بەرژەوەندییەكانی سیستمە پێشكەوتووەكانی ژیریی دەستكرد لەبەرچاو بگرین، ڕەنگە ببێتە هۆی ئاڵۆزكردنی هەوڵەكان بۆ چارەسەركردنی پرسی «هاوتەریبكردنی ژیریی دەستكرد». یەكێكی دی، وای دەبینم یەكێك لە پاساوەكان ئەوە بێت كە بگوترێت ئێستا كۆمەڵێك گرووپ وەك مرۆڤ و ئاژەڵ هەن، بەڵام هێشتا بەرژەوەندییەكانیان بە شێوەیەكی شایستە ڕەچاو نەكراوە و پێویستە پێش ئەوەی بازنەی ئەخلاقی بۆ گرتنەخۆی بەرژەوەندییەكانی پۆلێكی نوێ لە بوونەوەران فراوان بكەین، ئەو دۆخە ڕاست بكەینەوە. هۆكارێكی دیكە ڕەنگە ئەوە بێت كە ڕەچاوكردنی بەرژەوەندیی هەندێك دەماخی دیجیتاڵی ببێتە هۆی دروستبوونی كاردانەوەیەكی توند لە دژی ژیریی دەستكرد، كە ئەمەش ئەگەری هەیە گەشەكردنی ئەو بوارە خاو بكاتەوە، یان ڕایبگرێت. هەروەها لەوانەیە پاساوی ئایینیش (لاهووتی) بۆ ئەم بابەتە هەبن.

*  زۆربەی گفتوگۆ جیهانییەكانی تایبەت بە ژیریی دەستكرد، لەژێر كاریگەریی كێبڕكێی نێوان زلهێزەكاندایە، لە ڕوانگەی ئێوەوە، ئایا مەترسییە هەرە گەورەكە ئەوەیە كە دەوڵەتان زۆر بە سستی بەرەو هەماهەنگی هەنگاو دەنێن، یان ئەوەیە كە بە شێوازێك هەماهەنگی دەكەن كە ببێتە هۆی چەسپاندنی دەسەڵات، كاری هەواڵگری و پەراوێزخستن لە جیاتی پاراستنی سەلامەتی؟

- بڕوام وایە ئەگەر هاوكاریی زیاتر لە نێوان دەوڵەتان و بەتایبەتی زلهێزەكاندا هەبێت، بارودۆخەكە باشتر دەبێت و هەندێك شێوازی هاوكاریی ئومێدبەخشتر لەوانی دیكە دەردەكەون.

لە توێژینەوەیەكی نوێمدا باس لە «وەبەرهێنانی پێچەوانە» cross-investment لە كۆمپانیاكانی ژیریی دەستكرددا دەكەم، وەك شێوازێكی ئەگەری بۆ هاوكاریی پشكی، كە تا ڕادەیەك كردەیی دەردەكەوێت و لەگەڵ بەرژەوەندی و پاڵنەرەكاندا دەگونجێت، چونكە سوود لەو نەریت و دامەزراوە جێگیرانەی ئێستا وەردەگرێت كە پەیوەستن بە یاسای خاوەندارێتییەوە. بۆ نموونە، ئەگەر وەبەرهێنەرە چینییەكان پشك لە كۆمپانیاكانی ژیریی دەستكردی ئەمریكی بكڕن و بە پێچەوانەشەوە، ئەوا هەردوولا لە سەركەوتنی یەكتردا سوودمەند دەبن. ئەمە دەكرێت تا ڕادەیەك پاڵنەرەكان بۆ كێبڕكێی مەترسیدار و ململانێ كەم بكاتەوە و ببێتە هۆی دابەشكردنی سوودەكان بە شێوەیەكی فراوانتر، بەراورد بەو سیستمەی كە تێیدا «براوە هەموو شتێك دەبات».

*  لە ئەو ناوچانەی كە دەكەونە دەرەوەی سەنتەرە تەكنەلۆژییە سەرەكییەكان، لەوانەش بەشێك لە وڵاتانی ڕۆژهەڵاتی ناوەڕاست، زۆرجار ژیریی دەستكرد وەك شتێكی هاوردەكراو دەبینرێت، نەك داهێنراوێكی ناوخۆیی. چ جۆرە مەترسییەك سەرهەڵدەدات كاتێك بەشێكی زۆری جیهان دەنگ و كاریگەرییەكی ئەوتۆیان نییە لە دیاریكردنی بنەما، نەریت و شێوازی حوكمڕانیی ئەو تەكنەلۆژییانەی كە جیهان دەگۆڕن؟

- ڕوونترین مەترسی ئەوەیە كە بەرژەوەندییەكانیان پشتگوێ بخرێت، یان تەنیا بایەخێكی كەم و پەراوێزییان پێ بدرێت و لە كۆتاییدا ببنە وابەستەی بەخشندەیی هێزە بیانییەكان. ئەو مۆدێلی «وەبەرهێنانی جیهانیی كراوە»یەی پێشتر ئاماژەم پێدا، دەكرێت پرۆسەی بەشداریكردن و بوون بە خاوەن بەرژەوەندی (stakeholder) لە پێشكەوتنەكانی ژیریی دەستكرد كە لە وڵاتانی دیكەدا ڕوو دەدەن، كەمێك ئاسانتر بكات، هەروەها ڕەنگە كارێكی ژیرانە بێت، ئەگەر هەوڵ بدرێت هەندێك لە سەنتەرەكانی داتای ژیریی دەستكرد لە ناوخۆی وڵاتدا دابمەزرێنرێن، ئەمە ڕەنگە لە هەندێك بارودۆخدا ببێتە ڕێگەیەك بۆ ئەوەی دەنگ و پێگەیەكیان لە كاتی بڕیارداندا هەبێت. بەگشتی، ئەو وڵاتانەی ئێستا خاوەنی هەندێك كارتی فشاری گفتوگۆن، دەكرێت بیر لەوە بكەنەوە، چۆن ئەو كارتانە بگۆڕن بۆ كارتێك كە لە سیناریۆكانی «تەقینەوەی ژیری»دا كاریگەرییان هەبێت، ئەویش لە ڕێگەی بەستنی ڕێككەوتن و گرێبەستەكان، یان وەبەرهێنان لەو سەرمایانەی كە لەو جۆرە سیناریۆیانەدا دەبنە خاوەن بایەخێكی گەورە.

*  لە كتێبی «یووتۆپیای قووڵ - Deep Utopia»، لێكۆڵینەوە لە داهاتوویەك دەكەیت، كە تێیدا كێشەكانی كەمیی سەرچاوە و كێشە ئامرازییەكان تا ڕادەیەكی زۆر چارەسەر كراون. ئایا نیگەران نیت لەوەی توانای مرۆڤ بۆ دۆزینەوەی مانا، هەستكردن بە بەرپرسیارێتی و جددییەتی ئەخلاقی، تەنانەت پێش گەیشتنی جیهانێكی وەها تووشی داخوران ببێت، چونكە تەكنەلۆژیا ڕۆژ لە دوای ڕۆژ زیاتر پێش دەكەوێت؟

- ئەگەر خشتە كاتییەكانی ژیریی دەستكرد كورت بن، ڕەنگە كاتێكی زۆر نەمێنێت بۆ ڕوودانی داخورانێكی لەوە زیاتر كە ئێستا هەیە، پێموایە هەندێك جار دەتوانین كەمێك لەم كێشەیە ببینین، بۆ نموونە، ئەو كەسانەی لە سۆشیال میدیادا بەرپرسیار نین لە هیچ شتێك لە جیهانی ڕاستەقینەدا و هەرگیز هیچ دەستكەوتێكیان نەبووە، یان سەرپەرشتیی هیچ ڕێكخراوێكی گەورەیان نەكردووە، كەچی خاوەن ڕایەكی زۆر بڕوابەخۆن دەربارەی ئەوەی وڵاتان چۆن بەڕێوە ببرێن، یان خەڵكیتر چۆن ژیانی خۆیان ڕێك بخەن.

* سەرەنجام، كاتێك تێڕامان دەكەیت بۆ چەندین دەیەی كاركردنت لەسەر مەترسییەكانی لەناوچوون و داهاتووی مرۆڤایەتی، چ بڕوا، یان گریمانەیەك هەیە كە پێشتر هەتبوو، بەڵام ئێستا متمانەت پێی كەمتر بووەتەوە؟

- ئەو گۆڕانكارییەی لە دیدی مندا دروست بووە، ئەوەیە كە ئەو ماوەیەی تێیدا سیستمەكانی ژیریی دەستكردی «پێش دەركەوتنی ژیریی باڵا» (Superintelligence) كە لانیكەم چەند ساڵیك دەخایەنێت، بە شێوەیەكی ڕێژەی لە ئاستی مرۆڤدان و دەتوانن بە زمانی سرووشتی گفتوگۆ بكەن، هەروەها بە گشتی، ئەو ئاستە بەرچاوەیە كە ئەم سیستمە ژیرانە سیفەتی مرۆییان (Anthropomorphic) تێدایە.