دیکتاتوری دیجیتال و هوش مصنوعی: کلمات مهم هستند – به ویژه وقتی تغییر میکنند (۲)
به قلم: کارزان شکاک
مدل چینی: مدل آزمایشگاهی یا صادراتی؟
در حالی که نخبگان غربی در مورد آینده بحث میکنند، یک کشور در حال حاضر آن را تجربه میکند. سیستم اعتبار اجتماعی چین که به عنوان یک پروژه آزمایشی راهاندازی شد، تا سال ۲۰۲۶ به یک معماری پیچیده و چندلایه از مدیریت رفتاری تبدیل شده است.
محققان آن را به عنوان نقطه تلاقی نظارت و جنگ اطلاعاتی توصیف میکنند – سیستمی که منطق “تسلط بر میدان نبرد” را در مدیریت غیرنظامی جاسازی میکند.
بیش از ۶۰۰ میلیون دوربین نظارتی مجهز به تشخیص چهره هوش مصنوعی. تجزیه و تحلیل راه رفتن برای شناسایی. سیستمهای پرداخت مرتبط با یک شناسه دیجیتال صادر شده توسط دولت. امکان مسدود کردن حسابهای بانکی، محدود کردن دسترسی به حمل و نقل عمومی یا جلوگیری از ورود کودکان به مدرسه – بدون محاکمه، بدون توضیح، با تصمیم الگوریتمی.
یک نکته مهم که اغلب توسط ناظران غربی نادیده گرفته میشود، این است که بخش قابل توجهی از شهروندان چینی از این سیستم حمایت میکنند.
تحقیقات نشان میدهد که این حمایت دقیقاً ناشی از ناآگاهی از پتانسیل سرکوبگرانه آن است – تبلیغات دولتی به طور مؤثر آن را به عنوان “ابزار اعتماد” و “نظم اجتماعی” پنهان میکند. وقتی به پاسخدهندگان تصویر کامل داده شد، حمایت آنها به شدت کاهش یافت.
این درس اصلی است: دیکتاتوری دیجیتال دقیقاً به این دلیل مؤثر است که نامرئی است. نیازی به چکمه روی صورت ندارد. یک الگوریتم کافی است.
و این مدل صادر میشود. شرکتهای فناوری چینی به طور فعال زیرساختهای نظارتی را به دولتهای سراسر جهان – از آسیا گرفته تا آفریقا و آمریکای لاتین – میفروشند. اقتدارگرایی یک راهحل جعبهای با پشتیبانی فنی دریافت کرده است.
آیا در غرب متفاوت است؟
معمولاً اعتقاد بر این است که دیکتاتوری دیجیتال مختص چین است. اما مدل غربی نه در اصل، بلکه در موضوع کنترل متفاوت است. در چین، نظارت مبتنی بر دولت است. در غرب، مبتنی بر شرکتها است. تفاوت کمتر از آن چیزی است که به نظر میرسد.
انویدیا،متا، گوگل و آمازون بیشتر از هر دولتی در تاریخ درباره میلیاردها میدانند: گرایشهای سیاسی، گرایش جنسی، وضعیت مالی، اضطرابهای سلامتی، اختلافات خانوادگی.
این دادهها فروخته میشوند، دوباره فروخته میشوند، بنا به درخواست با دولتها به اشتراک گذاشته میشوند و از طریق هکرها فاش میشوند. الگوریتمهای رسانههای اجتماعی که برای حداکثر تعامل بهینه شدهاند، به طور مداوم خشم، ترس و قطبی شدن را تقویت میکنند – نه از روی بدخواهی، بلکه به این دلیل که این احساسات مدت طولانیتری توجه را به خود جلب میکنند.
در سال ۲۰۲۲، مقامات کانادایی حسابهای بانکی معترضان کاروان آزادی را – بدون حکم دادگاه، از طریق یک تصمیم اداری – مسدود کردند.
کشورهای اتحادیه اروپا الزامات شناسایی کاربر را به صورت آنلاین معرفی میکنند. دولت بریتانیا در حال بررسی کارتهای شناسایی دیجیتال به عنوان یک الزام اجباری برای استخدام است.
طرحهای قانونی برای «روبل دیجیتال» در روسیه به صراحت امکان مسدود کردن وجوه را «در صورت سوءظن» – بدون توضیح یا حکم دادگاه – فراهم میکند.
پول قابل برنامهریزی چیزی بیش از یک شکل جدید پرداخت است. این ابزاری است که به دولت یا شرکت اجازه میدهد تصمیم بگیرد که چگونه میتوانید پول خود را خرج کنید، کجا میتوانید آن را خرج کنید و چه زمانی.
ارزهای دیجیتال بانک مرکزی (CBDC) چیزی را ایجاد میکنند که محققان آن را «سراسربین مالی» مینامند: هر تراکنش قابل مشاهده میشود، هر انحرافی دلیل بالقوهای برای مداخله است.