وب سایت علیرضا صائبی وبلاگ علیرضا صائبی
کنوانسیون چارچوب هوش مصنوعی شورای اروپا
نخستین معاهده بینالمللی الزامآور
در ۱۷ می ۲۰۲۴، شورای اروپا نخستین معاهده بینالمللی الزامآور در حوزه هوش مصنوعی را به تصویب رساند. این معاهده با عنوان کامل «کنوانسیون چارچوب هوش مصنوعی و حقوق بشر، دموکراسی و حاکمیت قانون» در ۵ سپتامبر ۲۰۲۴ برای امضا در اختیار اعضا قرار گرفت و هماکنون گامی تاریخی در حکمرانی جهانی فناوری به شمار میرود.
برخلاف قوانین و مقررات منطقهای مانند قانون هوش مصنوعی اتحادیه اروپا، این معاهده استانداردی جهانی و الزامآور ایجاد میکند. کشورهای عضو شورای اروپا، اتحادیه اروپا و حتی کشورهای غیراروپایی میتوانند به آن بپیوندند. تاکنون، ایالات متحده، بریتانیا، کانادا، ژاپن، اسرائیل و چندین کشور دیگر آن را امضا کردهاند، که نشاندهنده رویکرد فراقارهای این چارچوب است.
این معاهده پس از امضا و تصویب توسط پنج کشور (شامل حداقل سه عضو شورای اروپا) لازمالاجرا خواهد بود.
اصول بنیادین معاهده
کنوانسیون بر هفت اصل اساسی تأکید دارد که باید در تمام مراحل چرخه حیات سیستمهای هوش مصنوعی رعایت شود:
۱. احترام به حقوق بشر و آزادیهای بنیادین: تمامی فعالیتهای مرتبط با هوش مصنوعی باید با استانداردهای بینالمللی حقوق بشر سازگار باشد.
۲. حفظ دموکراسی: سیستمهای هوش مصنوعی نباید برای تضعیف نهادها و فرآیندهای دموکراتیک، از جمله استقلال قوه قضائیه و دسترسی به عدالت، استفاده شوند.
۳. حاکمیت قانون: تضمین پاسخگویی و مسئولیتپذیری در قبال تأثیرات منفی ناشی از هوش مصنوعی.
۴. شفافیت: ارائه اطلاعات کافی درباره سیستمهای هوش مصنوعی به افراد تحتتأثیر، بهطوری که بتوانند تصمیمات اتخاذشده را به چالش بکشند.
۵. نظارت و سرپرستی انسانی: اطمینان از حضور انسان در نقاط حساس تصمیمگیری و امکان مداخله در فرآیندهای مبتنی بر هوش مصنوعی.
۶. برابری و عدم تبعیض: حمایت از اصول برابری، از جمله برابری جنسیتی، و ممنوعیت تبعیض الگوریتمی.
۷. حریم خصوصی و حفاظت از دادهها: احترام به حقوق حریم خصوصی افراد در استفاده از سیستمهای هوش مصنوعی.
دامنه اقدامات و تعهدات
معاهده بر استفاده از سیستمهای هوش مصنوعی توسط مقامات عمومی و بخش خصوصی که از طرف دولتها عمل میکنند تمرکز دارد. در خصوص بخش خصوصی، معاهده دو گزینه ارائه میدهد:
– اِعمال مستقیم تعهدات معاهده
– اتخاذ تدابیر جایگزین برای رعایت اهداف معاهده با رعایت کامل تعهدات بینالمللی
رویکرد مبتنی بر ریسک
معاهده از رویکرد مبتنی بر ریسک استفاده میکند که الزاماتی مانند:
– ارزیابی اثرات و ریسکها: انجام ارزیابیهای مکرر از تأثیرات بالقوه و واقعی بر حقوق بشر، دموکراسی و حاکمیت قانون
– اقدامات پیشگیرانه و کاهنده مخاطرات: تدوین راهکارهای کافی برای جلوگیری و کاهش خطرات
– مستندسازی: ثبت و نگهداری اطلاعات کامل درباره سیستمهای هوش مصنوعی و کاربردهای آنها
حقوق و اختیارات
معاهده حقوق مشخصی برای افراد تحتتأثیر سیستمهای هوش مصنوعی تعریف میکند:
– حق آگاهی: افراد باید آگاه شوند که با یک سیستم هوش مصنوعی تعامل دارند، نه با انسان.
– حق اعتراض: امکان اعتراض به تصمیمات اتخاذشده توسط سیستمهای هوش مصنوعی و به چالش کشیدن آنها.
– دسترسی به راهحلهای حقوقی: تضمین راهحلهای قانونی مؤثر برای قربانیان نقض حقوق بشر ناشی از استفاده از هوش مصنوعی.
– دسترسی به اطلاعات: حق دریافت اطلاعاتی که برای درک و چالش کردن تصمیمات الگوریتمی لازم است.
استثنائات
اجرای مفاد این معاهده با برخی محدودیتها و استثنائات بهشرح زیر مواجه است:
– امنیت ملی: کشورها ملزم به اعمال مقررات معاهده در فعالیتهای مربوط به امنیت ملی نیستند، اما باید تضمین کنند که این فعالیتها با حقوق بینالملل سازگار است.
– دفاع ملی: معاهده بر مسائل مربوط به دفاع ملی اعمال نمیشود.
– تحقیق و توسعه: فعالیتهای تحقیق و توسعه مشمول معاهده نیستند، مگر زمانی که بیم آن برود که آزمایش سیستمهای هوش مصنوعی حقوق بشر را تهدید کند.
سازوکار نظارت و اجرا
برای اطمینان از اجرای مؤثر، معاهده کنفرانسی از اعضا تشکیل میدهد که:
– پیشرفت اجرای معاهده را نظارت میکند
– همکاری بینالمللی را تسهیل مینماید
– بهروزرسانی و تطبیق معاهده با تحولات فناوری را امکانپذیر میسازد
این رویکرد انعطافپذیر تضمین میکند که معاهده در برابر پیشرفتهای سریع فناوری پایدار بماند.
ارتباط با سایر ابزارهای حقوقی
معاهده شورای اروپا مکمل سایر ابزارهای بینالمللی و منطقهای است، نه جایگزین آنها. بهویژه در اتحادیه اروپا، قانون هوش مصنوعی اروپا (EU AI Act) بهعنوان ابزار اجرایی این معاهده عمل خواهد کرد. این هماهنگی نشاندهنده امکان همگرایی در حکمرانی جهانی هوش مصنوعی است.
چالشها و دیدگاههای انتقادی
با وجود اهمیت تاریخی این معاهده، برخی منتقدان اشاره کردهاند که:
– استثنای امنیت ملی و دفاع میتواند حفرههای قابلتوجهی ایجاد کند.
– گزینه انعطافپذیر برای بخش خصوصی ممکن است منجر به اجرای ضعیف شود.
– موفقیت معاهده کاملاً وابسته به تعهد کشورهای عضو به تصویب و اجرای داخلی آن است.
همچنین، برخی محققان به پیشنهادهای جایگزین مانند «پیشنویس مونیخ» اشاره کردهاند که از حمایتهای سختگیرانهتر در برابر خطرات هوش مصنوعی دفاع میکند.
کنوانسیون چارچوب هوش مصنوعی شورای اروپا گامی بلندپروازانه در جهت ایجاد یک نظام حکمرانی جهانی برای هوش مصنوعی است که بر حقوق بشر، دموکراسی و حاکمیت قانون استوار است. این معاهده، با ایجاد یک چارچوب حقوقی الزامآور و در عین حال انعطافپذیر، تلاش میکند تعادلی بین نوآوری فناورانه و حمایت از حقوق بنیادین انسانی برقرار کند.
در عصری که هوش مصنوعی بهسرعت در حال تغییر جامعه، اقتصاد و قدرت جهانی است، چنین تلاشهای چندجانبه برای تعریف استانداردهای جهانی ضروریتر از همیشه به نظر میرسد. این معاهده نشان میدهد که در برخی حوزههای حاکمیت هوش مصنوعی، همگرایی بینالمللی نهتنها ممکن است، بلکه در حال تحقق است.
با نگاهی به آینده، موفقیت این معاهده نه فقط به تعداد امضاکنندگان، بلکه به کیفیت اجرای آن در سطح ملی و ایجاد مکانیزمهای نظارتی مؤثر بستگی دارد. این معاهده میتواند الگویی برای دیگر مناطق و نهادهای بینالمللی باشد که به دنبال حکمرانی مسئولانه هوش مصنوعی هستند.
برای مطالعه بیشتر، به وبسایت این معاهده مراجعه فرمایید.
