ممنوعیت استفاده از هوش مصنوعی توسط پارلمان اروپا

در سال‌های اخیر، هوش مصنوعی (AI) از یک ابزار فانتزی به ستون فقرات زیرساخت‌های دیجیتال تبدیل شده است؛ با این حال، پارلمان اروپا با تصویب قانون هوش مصنوعی (EU AI Act)، پیامی قاطع به جهان فرستاد : تکنولوژی نباید به قیمت قربانی شدن حقوق بنیادین بشر رشد کند. یکی از حساس‌ترین بخش‌های این قانون، محدودیت‌های شدید و در برخی موارد ممنوعیت مطلق استفاده از AI در دستگاه‌های حقوقی و قضایی است.

اتحادیه اروپا رویکردی مبتنی بر ریسک (Risk-based approach) دارد، سیستم‌های هوش مصنوعی که در امور قضایی و اجرای قانون استفاده می‌شوند، در دسته ریسک بالا (High-Risk) قرار گرفته‌اند. دلیل این امر ساده است، یک خطا در الگوریتم قضایی می‌تواند به قیمت سلب آزادی یا نقض عدالت برای یک شهروند تمام شود.

• ممنوعیت کامل سیستم‌های امتیازدهی اجتماعی : پارلمان اروپا هرگونه استفاده از AI برای رتبه‌بندی شهروندان بر اساس رفتار اجتماعی یا ویژگی‌های شخصیتی توسط دولت‌ها را ممنوع کرده است.

• پیش‌بینی جرم (Predictive Policing) : استفاده از الگوریتم‌ها برای پیش‌بینی اینکه چه کسی احتمال دارد در آینده مرتکب جرم شود (بر اساس پروفایلینگ)، به طور کامل ممنوع شده است.

یکی از جنجالی‌ترین بخش‌های این مقاله، ممنوعیت استفاده از سیستم‌های شناسایی چهره (Facial Recognition) در لحظه (Real-time) در فضاهای عمومی است. پارلمان اروپا معتقد است که این فناوری می‌تواند جوامع را به سمت نظارت توده‌ای (Mass Surveillance) سوق دهد.

• استثناهای محدود : تنها در موارد بسیار خاص مانند حملات تروریستی یا جستجوی قربانیان آدم‌ربایی، آن هم با مجوز قضایی پیش‌بینی شده، اجازه استفاده صادر می‌شود. در غیر این صورت، دستگاه‌های حقوقی حق استفاده از این ابزار را برای کنترل روزمره ندارند.

بسیاری نگران بودند که هوش مصنوعی جایگزین قضات شود، قانون جدید اروپا صراحتاً اعلام می‌کند که AI نباید بر سرنوشت حقوقی افراد حاکم باشد.

• تفسیر قوانین : سیستم‌های AI که برای کمک به مقامات قضایی در تحقیق و تفسیر حقایق و قانون استفاده می‌شوند، باید تحت نظارت دقیق انسانی باشند.

• عدم قطعیت الگوریتم : پارلمان تاکید دارد که هوش مصنوعی فاقد درک شهودی و اخلاقی است، لذا استفاده از آن برای صدور حکم یا تصمیم‌گیری‌های نهایی حقوقی ممنوع یا به شدت محدود شده است.

طبق این قانون، اگر یک نهاد حقوقی یا اداری از هوش مصنوعی برای تصمیمی که بر زندگی یک شهروند تاثیر می‌گذارد استفاده کند، باید :

1. اطلاع‌رسانی شفاف انجام دهد.

2. توضیح‌پذیری (Explainability) الگوریتم را تضمین کند؛ یعنی شهروند باید بداند چرا سیستم چنین تصمیمی گرفته است.

3. حق بازنگری توسط انسان را برای شهروند محفوظ بدارد.

اتحادیه اروپا برای ضمانت اجرای این ممنوعیت‌ها، جریمه‌های سنگینی در نظر گرفته است که می‌تواند تا 35 میلیون یورو یا 7 درصد از کل فروش سالانه جهانی شرکت‌های متخلف باشد؛ این نشان‌دهنده جدیت پارلمان در حفاظت از حریم خصوصی و برابری در برابر قانون است.

قانون هوش مصنوعی پارلمان اروپا، تلاشی است برای اینکه اطمینان حاصل شود تکنولوژی در خدمت انسان است، نه ارباب او. با ممنوع کردن استفاده‌های سوء از AI در دستگاه‌های حقوقی، اروپا راه را برای یک هوش مصنوعی اخلاقی باز کرده است که در آن کرامت انسانی بالاتر از سرعت و کارایی الگوریتم‌ها قرار می‌گیرد.