وب سایت علیرضا صائبی وبلاگ علیرضا صائبی
مرکز هوش مصنوعی و خط‌مشی دیجیتال (CAIDP) هر سال گزارشی به نام گزارش [۱]AIDV منتشر می‌کند که وضعیت هوش مصنوعی (AI) و ارتباط آن با ارزش‌های دموکراتیک (DV) را در کشورهای مختلف بررسی می‌کند. هدف این گزارش بررسی نحوه مدیریت هوش مصنوعی در کشورها و میزان پایبندی آنها به اصول و موازین بین‌المللی در این زمینه است که از طریق ارزیابی، سنجش و مقایسه خط‌مشی‌ها، راهبردها و عملکردهای مرتبط با هوش مصنوعی در کشورهای مختلف انجام می‌پذیرد.
عوامل ارزیابی در این گزارش بر اساس چارچوب های شناخته شده سیاست گذاری هوش مصنوعی (مثل اصول هوش مصنوعی سازمان همکاری و توسعه اقتصادی (OECD) و توصیه‌های اخلاقی یونسکو برای هوش مصنوعی)، حقوق بنیادی بشر (اعلامیه جهانی حقوق بشر) و اصول تصمیم گیری دموکراتیک در هر کشور (شامل شفافیت، مشارکت عمومی و دسترسی به اسناد خط‌مشی) انتخاب شده اند. به نظر می‌رسد آشنایی با این سوالات و حوزه‌های طرح آنها می‌تواند در سطح کشور و حتی سازمان‌های بزرگ، منجر به ارتقاء سطح تطبیق در به‌کارگیری هوش مصنوعی و ارزش‌های دموکراتیک گردد.
پیشنهاد می‌کنم متخصصان و مشاوران هوش مصنوعی و فناوری اطلاعات، این موارد را مطالعه نموده و برای سازمان خود به آنها پاسخ داده. آنگاه به هر پاسخ به‌صورت زیر نمره دهید: بله=یک، خیر=صفر و ۰.۵ (نیم) برای تطبیق ناقص یا بخشی. آنگاه اعداد را با یکدیگر جمع کنید و بر ۱۲ (نمره کامل) تقسیم کند و ببینید بر اساس این چارچوب، راه‌حل‌های هوش مصنوعی مورداستفاده شما چقدر به ارزش‌های دموکراتیک بین‌المللی منطبق هستند. نکته مهم در این ارزیابی آن است که ارزیابی بایستی حتماً بر اساس اسناد رسمی کشور (سازمان، شرکت یا مجموعه) انجام پذیرد و محتوای اخبار یا سایت‌های خبری در این زمینه قابل‌استناد نیست. به این معنی که مثلاً اگر در مورد پذیرش یا اجرای اعلامیه جهانی حقوق بشر سؤالی پرسیده شده است، این پذیرش یا اجرا باید حتماً در اسناد رسمی و قانونی کشور (مجموعه) ذکر شده و از طریق مبادی رسمی تصویب اسناد در کشور (مجموعه) مصوّب شده باشد.
ازآنجاکه این روش برای ارزیابی کشورها طراحی شده است، در صورت سؤال عناوینی همچون «کشور» و «مردم» ذکر شده که می‌توانید آنها را به ترتیب به «شرکت، سازمان یا مجموعه» و «همکاران، کارکنان» تغییر دهید.
فهرست پرسش‌ها:
۱: آیا کشور، اصول هوش مصنوعی سازمان همکاری و توسعه اقتصادی (OECD) را پذیرفته است؟
۲: آیا کشور، اصول هوش مصنوعی سازمان همکاری و توسعه اقتصادی (OECD) را اجرا می‌کند؟
۳: آیا کشور، اعلامیه جهانی حقوق بشر را پذیرفته است؟
۴: آیا کشور، اعلامیه جهانی حقوق بشر را اجرا می‌کند؟
۵: آیا کشور، فرایندی را برای مشارکت معنادار مردم در تدوین خط‌مشی ملی هوش مصنوعی ایجاد کرده است؟
۶: آیا اسناد و مدارک مربوط به خط‌مشی‌ها و رویه‌های هوش مصنوعی کشور به‌راحتی در دسترس عموم قرار دارد؟
۷: آیا کشور، یک نهاد (سازمان/مکانیزم) مستقل برای نظارت بر هوش مصنوعی دارد؟
۸: آیا اهداف زیر در سیاست ملی هوش مصنوعی ذکر شده است: «عدالت»، «پاسخگویی»، «شفافیت»، («حاکمیت قانون»)، («حقوق بنیادی بشر»)؟ [اجرا = الزام قانونی؟ = اعمال قانون؟]
۹: آیا کشور به‌موجب قانون، حق شفافیت الگوریتمی را برقرار کرده است؟ [GDPR؟ / COE+؟]
۱۰: آیا کشور، توصیه‌نامه یونسکو در مورد اخلاق هوش مصنوعی را پذیرفته است؟
۱۱: آیا کشور، توصیه‌نامه یونسکو در مورد اخلاق هوش مصنوعی را اجرا می‌کند؟
۱۲: آیا آژانس حفاظت از داده‌های کشور، قطعنامه‌های GPA 2018 در مورد هوش مصنوعی و اخلاق، قطعنامه GPA 2020 در مورد هوش مصنوعی و پاسخگویی، قطعنامه GPA 2022 در مورد هوش مصنوعی و پاسخگویی و قطعنامه GPA 2023 در مورد سیستم‌های هوش مصنوعی مولد[۲] را تأیید کرده است؟
بر اساس وضعیت ۱۲ شاخص بالا، گزارش ارزیابی وضعیت هوش مصنوعی و ارزش‌های دموکراتیک برای هر کشور به تفکیک شاخص‌های زیر تدوین و منتشر می‌شود:
| بخش | توضیحات |
| استراتژی ملی هوش مصنوعی (ممکن است شامل زیربخش‌هایی باشد) | برخی کشورها استراتژی ملی هوش مصنوعی یا دیجیتال منتشر کرده‌اند. این تحولات رصد شده، نکات کلیدی آنها را تشریح گردیده و وضعیت تطبیق آنها با معیارهای بین‌المللی مانند اصول هوش مصنوعی OECD، دستورالعمل‌های جهانی هوش مصنوعی، توصیه‌نامه‌های یونسکو در مورد اخلاق هوش مصنوعی و پیمان هوش مصنوعی شورای اروپا ارزیابی می‌شود. |
| مشارکت عمومی | برخی کشورها امکان مشارکت عموم را در فرایند تدوین سیاست‌گذاری ملی از طریق هم‌اندیشی عمومی فراهم می‌کنند. چنین تحولات و فرصت‌هایی باید در این پاراگراف تشریح شوند. |
| حفاظت از داده‌ها | آیا قانون جامعی برای حفاظت از داده‌ها وجود دارد؟ آیا موسسه یا سازمان مشخصی مسئول حفاظت از داده‌هاست؟ |
| شفافیت الگوریتمی | بررسی می‌شود که آِا شفافیت الگوریتمی یک حق قانونی است یا خیر؟ |
| توسعه‌های قابل توجه هوش مصنوعی | این بخش ممکن است در بین کشورها متفاوت باشد. ممکن است شامل مناظرات، تصمیمات قضایی، کمپین‌ها و سایر تحولات قابل توجه در سیاست‌گذاری ملی هوش مصنوعی باشد. (مثلاً تشخیص چهره، شناسایی بیومتریک و پیش‌بینی‌ها و امتیازدهی‌های اجتماعی و غیره) |
| سلاح‌های خودمختار مرگبار | موضع کشور در مورد توسعه و استفاده از سیستم‌های تسلیحاتی خودمختار مرگبار(LAWS) و مشارکت در کنوانسیون سلاح‌های متعارف (CCCW). |
| حقوق بشر | ارزیابی کلی از وضعیت حقوق بشر در کشور. |
| اصول هوش مصنوعی OECD / دستورالعمل‌های G20 در مورد هوش مصنوعی | پذیرش و اجرای اصول هوش مصنوعی OECD و دستورالعمل‌های G20 در مورد هوش مصنوعی. |
| پیمان هوش مصنوعی شورای اروپا | تأیید پیمان هوش مصنوعی شورای اروپا توسط کشور. پیمان هوش مصنوعی شورای اروپا اولین پیمان بین‌المللی الزام‌آور در مورد هوش مصنوعی است. |
| پذیرش و اجرای توصیه‌های یونسکو در مورد اخلاق هوش مصنوعی. | پذیرش و اجرای توصیه‌های یونسکو در مورد اخلاق هوش مصنوعی. |
| ارزیابی کلی | ارزیابی کلی وضعیت یافته‌های گزارش‌شده درباره کشور مورد نظر. |
شایان توجه است در آخرین ارزیابی انجام‌شده در گزارش ۲۰۲۲ این موسسه، ایران نمره ۳ از ۱۲ (جایگاه ۷۰ در بین ۷۵ کشور) را کسب کرده و در گروه پایین‌ترین کشورها (گروه پنجم) در کنار بنگلادش و ونزوئلا دسته‌بندی شده است و باید دید در گزارش بعدی که احتمالاً در اردیبهشت‌ماه ۱۴۰۳ منتشر خواهد شد، آیا ایران بر اساس معیارهای این روش، پیشرفتی در تطبیق خط‌مشی هوش مصنوعی بر ارزش‌های دموکراتیک داشته یا نه.
پی‌نوشت: جزئیات متدولوژی ارزیابی و توضیحات مربوط به هر سؤال در صفحات ۱۱۲۸ تا ۱۱۳۷ از گزارش ۲۰۲۲ موسسه CAIDP درج شده است.
توضیحات:
- GDPR: مخفف General Data Protection Regulation به معنی مقررات عمومی حفاظت از داده‌ها است.
- OECD: مخفف Organization for Economic Co-operation and Development به معنی سازمان همکاری و توسعه اقتصادی است.
- G20: گروه بیست، گروهی متشکل از بیست اقتصاد بزرگ جهان است.
- UNESCO: سازمان آموزشی، علمی و فرهنگی ملل متحد.
- CCCW: مخفف Convention on Certain Conventional Weapons به معنی کنوانسیون تسلیحات متعارف است.
- LAWS: مخفف Lethal Autonomous Weapons Systems به معنی سیستم‌های تسلیحاتی خودمختار مرگبار است.
- AIDV گزارش منتشره از سوی CAIDP است که با عنوان Artificial Intelligence and Democratic Values Index به صورت سالانه منتشر می‌شود.
- هوش مصنوعی مولد، GENAI یا Generative AI
