دیکتاتوری دیجیتال و هوش مصنوعی: کلمات مهم هستند – به ویژه وقتی تغییر میکنند (۳)
به قلم: کارزان شکاک
«عاملی» که واقعیت را برنامهریزی میکند
بیایید به داووس و سوالی که به ندرت پرسیده میشود، برگردیم. اگر هوش مصنوعی به تولیدکننده اصلی اطلاعات مصرف شده توسط بشریت تبدیل شود، چه کسی ارزشهای نهفته در این اطلاعات را برنامهریزی میکند؟
امروزه، چند شرکت فناوری، که عمدتاً در ایالات متحده و چین مستقر هستند، توسعه قدرتمندترین مدلهای زبانی را کنترل میکنند. این مدلها بر اساس دادههایی که توسط تیمهای خاص فیلتر شدهاند، آموزش دیدهاند و مفاهیمی از آنچه «قابل قبول» است و آنچه نیست، در آنها گنجانده شده است. آنها تعیین میکنند که کدام موضوعات بیطرفانه، کدامها با احتیاط و کدامها مسدود شوند.
هراری در تشخیص خود درست میگوید: اگر هوش مصنوعی زبان را به دست بگیرد، هر آنچه را که از زبان ساخته شده است – قوانین، مذهب، آموزش، فرهنگ، سیاست – نیز به دست خواهد گرفت. اما او مسئله بازیگران را به اندازه کافی دقیق مطرح نمیکند. این یک پدیده طبیعی نیست. این «اجتنابناپذیری پیشرفت فناوری» نیست.
پشت هر مرکز داده سرمایهگذارانی هستند. پشت هر الگوریتمی تیمی از توسعهدهندگان با ارزشها و علایق خاص وجود دارد. پشت هر تصمیم نظارتی، دولتها و لابیگران قرار دارند.
نامیدن هوش مصنوعی به عنوان «عامل»، اعطای استعاره «مهاجر» به آن، بحث در مورد «به رسمیت شناختن قانونی» آن – این یک گفتمان فنی بیطرفانه نیست. این یک پروژه سیاسی برای مشروعیت بخشیدن به انتقال قدرت از مردم به سیستمهایی است که توسط یک حلقه کوچک کنترل میشوند.
برونسپاری آزادی
طنز خاصی در این واقعیت وجود دارد که دقیقترین فرمولبندی این تهدید در داووس – در قلب همان پروژه جهانیسازی که این تهدید را به واقعیت تبدیل میکند – بیان شد.
هراری به درستی نتیجه را تشخیص داد: وقتی تمدنی توانایی تفکر خود را به سیستمهایی که کنترلی بر آنها ندارد، واگذار میکند، پیشرفت نمیکند. آزادی خود را واگذار میکند.
تاریخ این الگو را میشناسد. وقتی دولتها انحصار خشونت را به مزدوران واگذار میکنند، حاکمیت خود را از دست میدهند. وقتی جوامع تربیت کودکان را به مؤسسات واگذار میکنند، تداوم فرهنگی خود را از دست میدهند. وقتی شهروندان تولید معنا را به پلتفرمهای شرکتی واگذار میکنند، عاملیت سیاسی خود را از دست میدهند.
دیکتاتوری دیجیتال با تانکها نمیآید. با راحتی همراه است. با شخصیسازی. با کارایی. با وعده اینکه یک ماشین کار بهتری انجام خواهد داد. اینکه یک الگوریتم بیطرفتر است. اینکه سیستم هوشمندتر است.
و این خطر واقعی آن است. نیازی به اجبار ندارد. فقط نیاز به انصراف داوطلبانه از تلاش برای تفکر مستقل دارد.
سوالی که باید پرسیده شود
سوال واقعی که جوامع مدنی، پارلمانها و رسانههای مستقل باید بپرسند این نیست که «آیا هوش مصنوعی قدرتمند خواهد بود؟» این سوال از قبل حل شده است.
سوال واقعی این است: چه کسی از طریق آن قدرتمند خواهد شد؟
چند غول فناوری که ارزشهای خود را در زیرساخت اطلاعات جهانی جاسازی کردهاند؟ دولتهای اقتدارگرایی که یک راهحل یکسان برای همه برای کنترل شهروندان خریداری کردهاند؟ نهادهای بینالمللی که «حکمرانی جهانی هوش مصنوعی» را بدون به اصطلاح دستور دموکراتیک توسعه میدهند؟
یا این مشکل از طریق یک قرارداد اجتماعی واقعی، شامل شهروندان عادی، با نظارت مستقل و سازوکارهای پاسخگویی حل خواهد شد؟
انقلاب صنعتی با یک قرن مبارزه شدید برای حقوق کارگران همراه بود، قبل از اینکه هرگونه هنجار حمایتی ظهور کند. انقلاب دیجیتال عملاً بدون هیچ مخالفتی ظهور کرده است – و انحصارهایی با قدرت بیسابقه ایجاد کرده است.
بشریت یک قرن دیگر برای شروع ندارد.
فناوری به صورت تصاعدی توسعه مییابد. نهادهای انسانی به صورت خطی. این عقبماندگی، آسیبپذیری اصلی است.
و در حالی که نخبگان جهانی در داووس در مورد چگونگی «مدیریت صحیح» انقلابی که خودشان تأمین مالی میکنند، بحث میکنند، پاسخ به این سؤال که «چه کسی قدرتمند خواهد بود» از قبل به صورت کد، در معماری دادهها و در سالنهایی که اکثر ما هرگز وارد آنها نخواهیم شد، نوشته شده است.
……………
منابع و زمینه: سخنرانی یووال نوح هراری در مجمع جهانی اقتصاد، داووس، ۲۰ ژانویه ۲۰۲۶؛ تحقیقات فصلنامه چین، بنیاد تحقیقات آبزرور و مجله سیاست در مورد سیستم اعتبار اجتماعی چین؛ دادههای Doolly Research در مورد وضعیت نظارت دیجیتال در سال ۲۰۲۶؛ پوشش فوربس از مجمع داووس ۲۰۲۶٫