خطر هک شدن انسان ها در صورت نبود قوانین جهانی برای هوش مصنوعی
در آینده، ممکن است داده‌های مردم جهان به دلیل افزایش قدرت و گستردگی هوش مصنوعی به‌دست تعداد معدودی از افراد بسیار قدرتمند بیفتد و بدین‌ترتیب اساس دنیایی دیستوپیایی (جامعه ای خیالی که پلیدی ها و رذایل آن با هدف عبرت آموزی اخلاقی یا سیاسی به تصویر کشیده می شوند. این واژه برساختۀ جان استوارت میل، فیلسوف انگلیسی، در ۱۸۶۸ و متضاد اوتوپیا (آرمان شهر) است. رمان ۱۹۸۴ جورج اوروِل (۱۹۴۹) و دنیای قشنگ نو (۱۹۳۲) از آلدوس هاکسلی دو نمونه از رمان هایی هستند که به دیستوپیا می پردازند. دیستوپیا در داستان های علمی ـ تخیلی متداول است. ژول ورن، نویسندۀ فرانسوی، و اچ جی ولز، نویسندۀ انگلیسی، دیستوپیاهایی را در قرن ۱۹م توصیف کردند. فریتس لانگ، کارگردان اتریشی، در فیلم متروپولیس(۱۹۲۷)، جامعه ای کاملاً ماشینی همانند غالب دیستوپیاها را نشان می دهد که اقلیتی از نخبگان بر مردم حکم می رانند و حقوق افراد را زیرپا می گذارند. این جامعه ممکن است سرمایه داری باشد مانند رمانپاشنۀ آهنین(۱۹۰۷) جک لندن، یا سوسیالیستی، مانند رمان سرود(۱۹۳۸) آین رَند. از میان رمان های دیستوپیایی دیگر می توان از فارنهایت 451(۱۹۵۳)، اثر رِی برادبری، و پرتقال کوکی، اثر آنتونی برجس، نام برد) و پرهرج و مرج را با جمعیتی از «انسان‌های هک‌شده» پایه‌ریزی کند.
یووال هراری، (روشن فکر، تاریخ دان، نظریه پرداز و تاریخ دان معروف) در گفت‌وگو با CBS به این نکته اشاره کرد که ملت‌ها برای جلوگیری از این فاجعه لازم است از حالا با یکدیگر همکاری کنند و قوانین مشخصی را برای توسعه‌ی هوش مصنوعی و جمع‌آوری داده در سراسر دنیا تعیین کنند.
آینده در کنترل کسانی است که بیشترین داده‌ی کاربری را دراختیار دارند
هراری همچنین هشدار داد کشورها و شرکت‌هایی که بیشترین داده را دراختیار داشته باشند، دنیا را تحت کنترل خود درخواهند آورد: دنیا هر روز بیشتر به حوزه‌های جمع‌آوری و استخراج داده تجزیه می‌شود. در جریان جنگ سرد، پرده‌ی آهنین بود، حالا پرده‌ی سیلیکونی و دنیا به‌طور فزاینده‌ای بین ایالت متحده و چین در حال تقسیم‌شدن است. آیا داده‌های ما قرار است به کالیفرنیا برود یا شنژن و شانگهای و پکن؟
او مدتی است به مردم درمورد تغییرات باورنکردنی در آینده‌ای نه‌چندان دور هشدار می‌دهد و می‌گوید هوش مصنوعی امروزی که برپایه‌ی الگوریتم‌ها کار می‌کند، در آینده تسلط خود را بر انسان‌ها بیشتر خواهد کرد،نتفلیکس به ما می‌گوید چه تماشا کنیم و آمازون به ما می‌گوید چه بخریم. درنهایت، در ۱۰ یا ۲۰ یا ۳۰ سال آینده این الگوریتم‌ها می‌توانند به ما بگویند در دانشگاه چه بخوانیم، کجا کار کنیم، با چه کسی ازدواج کنیم یا حتی به چه کسی رأی دهیم.
او در ادامه گفت همه‌گیری کرونا در را به‌روی جمع‌آوری بیشتر داده‌های شخصی افراد باز کرده است: این داده‌ها درباره‌ی اتفاقاتی است که در داخل بدنمان می‌افتد. تاکنون، دید‌ه‌ایم شرکت‌ها و دولت‌ها درباره جایی که می‌رویم و کسی که ملاقات می‌کنیم و فیلم‌هایی که می‌بینیم، داده جمع‌آوری می‌کنند. در مرحله‌ی بعدی، این زیر‌نظر‌گرفتن‌ها به زیر پوست ما راه پیدا خواهد کرد. حال، در‌برابر این اتفاق چه می‌توان کرد؟ هراری می‌افزاید:
مسلما ما اکنون به جایی رسیده‌ایم که به همکاری جهانی نیاز داریم. مهار قدرت انفجاری هوش مصنوعی در سطح ملی ممکن نیست... یکی از قانون‌های کلیدی این است که اگر داده‌های من جمع‌آوری می‌شود، باید از آن‌ها برای کمک به من استفاده شود، نه برای کنترل من. قانون مهم دیگر این است که هر زمان نظارت بر افراد افزایش پیدا کرد، باید به‌طور هم‌زمان نظارت بر شرکت‌ها و دولت‌ها و افراد بالارده نیز افزایش یابد. دیگر قانون اصلی این است که هرگز اجازه ندهیم تمام داده‌ها در یک مکان متمرکز شوند؛ وگرنه با خطر دیکتاتوری رو‌به‌رو خواهیم شد.
او معتقد است اگر برای هوش مصنوعی قوانین بهتری تنظیم نشود، انسان‌ها در خطر «هک‌شدن» قرار می‌گیرند: هک‌کردن انسان‌ها، یعنی آن‌ها را بهتر از خودشان بشناسیم و براساس این شناخت، آن‌ها را بیش‌از‌پیش تحت کنترل و نفوذ خود درآوریم.
هراری به جنبه‌ی مثبت رشد هوش مصنوعی نیز باور دارد؛ اما به این شرط که برای آن قانون‌گذاری شود: آینده نه‌فقط دیستوپیایی، بلکه یوتوپیایی (آرمان‌شهر یا یوتوپیا یا مدینهٔ فاضله برای نخستین بار توسط تامس مور در سال ۱۵۱۶ در کتابی به همان عنوان برای توصیف یک نظام سیاسی بی‌عیب و نقص از این واژه به کار گرفته شد، اما به‌تدریج دامنه کاربرد اصطلاح آرمان‌شهر از مباحث سیاسی اجتماعی فرارتر رفت) نیز است. منظورم این است این داده‌هایی که از ما جمع‌آوری می‌شود، می‌تواند برای ایجاد بهترین سیستم مراقبت‌های بهداشتی به‌کار رود؛ اما سؤال این است: با این داده چه کارهای دیگری انجام می‌شود؟ چه کسی بر آن نظارت و برای آن مقررات تنظیم می‌کند؟
