وب سایت علیرضا صائبی وبلاگ علیرضا صائبی
مقدمه:
هوش مصنوعی (AI) ابزاری است که به صورت شگفت‌انگیزی می‌تواند باعث بهبود زندگی ما در زمینه‌های مختلف گردد. با این حال، استفاده از AI در زمینه نظارت فراگیر، به ویژه تشخیص چهره شهروندان، نگرانی‌های جدی را به وجود می‌آورد. در این مطلب کوتاه، با تمرکز بر قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) و تاکید بر فهرست‌های نظارتی (Watchlist) که دلیل اولیه استفاده از قابلیت تشخیص چهره بوده است، توضیحات مختصری در مورد نظارت فراگیر از طریق سیستمهای هوشمند تشخیص چهره و مخاطرات و آسیب‌های اجتماعی آن ارائه می‌شود.
نظارت فراگیر چیست؟
نظارت فراگیر به استفاده از فناوری برای جمع‌آوری و تجزیه و تحلیل گسترده داده‌ها به منظور ردیابی و نظارت بر فعالیت‌ها و حرکات افراد در مقیاس وسیع اطلاق می‌شود. در نظارت فراگیر می‌توان از ابزارهای مختلفی برای ردگیری افراد مورد نظر استفاده نمود. از جمله ردگیری استفاده از کارت‌های بانکی، ردگیری تردد خودرو، ردگیری قراردادهای مختلف یا فعالیت‌های اقتصادی و اجتماعی و موارد زیادی از این قبیل. در این میان تشخیص چهره یکی از ابزارهای کلیدی در نظارت فراگیر است که به سیستمهای AI اجازه می‌دهد تا هویت افراد را در تصاویر و ویدیوها شناسایی کنند.[۱] این کار می‌تواند از طریق دوربین‌های نصب‌شده در اماکن عمومی انجام شود یا توسط فردی که یک دوربین را به هر دلیلی و با هر پشتوانه‌ای در دست گرفته و در خیابان از چهره مردم تصویربرداری می‌کند.
فهرست نظارتی (Watchlist) چیست؟
فهرستی از افراد است که به دلیل نگرانی‌های امنیتی یا احتمال بروز جرائم حساس که خطر زیادی برای جامعه در پی دارد، با دستور مقام قضائی معتبر، تحت نظارت و رصد قرار می‌گیرند. این فهرست‌ها می‌توانند توسط دولتها، آژانس‌های معتبر اجرای قانون یا حتی برخی سازمان‌های خصوصی دارای مجوزهای ویژه (به صورت موردی) استفاده شوند. از جمله این جرائم می‌توان به جرائم تروریستی مثل بمب‌گذاری یا ترور، جرائم سازمان‌یافته مثل قاچاق مواد مخدر، قاچاق انسان، پولشویی، جرایم سایبری،جرائم حساس اجتماعی مانند قتل، تجاوز جنسی یا آدم‌ربایی، جرائم اقتصادی در مقیاس وسیع مانند اخلال در نظام مالی و اقتصادی یک کشور یا جرائم مرتبط با امنیت ملی مثل جاسوسی، تهدید به بمب‌گذاری، تخریب وسیع دارایی‌های ملی یا نظامی و مانند اینها اشاره نمود. معیارهای قرار گرفتن افراد در فهرست‌های نظارتی در کشورهای مختلف متفاوت است و ممکن است شامل افراد مظنون به جرم، افراد دارای سابقه سوء پیشینه، فعالان سیاسی، و افراد دارای دیدگاه‌های خاص باشد که در همه این موارد ممکن است جمعیت تحت نظارت به حدود یک درصد از جمعیت هر کشور برسد[۲].
مخاطرات نظارت فراگیر:
استفاده از فناوری‌های تشخیص چهره برای تحت‌نظر داشتن افرادی که در فهرست‌های نظارتی قرار دارند، در کشورهای مختلف امری متداول است؛ اما استفاده از این فناوری‌ها به صورت فراگیر (برداشت تصویر همه شهروندان) و هوشمند (با قابلیت شناسایی چهره فرد) برای شناسایی و ردگیری هویت افراد یک جامعه، این برداشت را به جامعه و شهروندان آن القا می‌کند که از نظر دولت یا سازمان‌های نظارتی نظام حاکم، به صورت پیش‌فرض همه شهروندان در فهرست نظارتی قرار دارند (یا به عبارتی مظنون هستند) و به هر دلیلی (معتبر یا نامعتبر) بایستی تحت نظارت فراگیر قرار گیرند. این رویکرد و اجرای آن به صورت کلی با مخاطرات زیر همراه است.
• نقض حریم خصوصی: جمع‌آوری و تجزیه و تحلیل داده‌های بیومتریک مانند چهره افراد، نقض حریم خصوصی آنها به شمار می‌رود. این داده‌ها می‌توانند برای ایجاد پروفایل‌های دقیق از افراد و ردیابی آنها در طول زمان استفاده شوند.
• سوء استفاده از قدرت: خطر سوء استفاده از قدرت توسط دولتها یا شرکت‌ها در زمینه نظارت فراگیر بسیار زیاد است. این سیستم‌ها می‌توانند برای سرکوب مخالفان، تبعیض علیه اقلیت‌ها و یا کنترل رفتار افراد استفاده شوند.
• افزایش نرخ خطاهای سیستمی: سیستمهای تشخیص چهره می‌توانند نرخ خطای بالایی داشته باشند، به خصوص زمانی که برای شناسایی افراد در شرایط غیرایده‌آل مانند نور کم یا ازدحام جمعیت استفاده می‌شوند. این خطاها می‌توانند منجر به دستگیری‌های اشتباه، تبعیض و سایر پیامدهای منفی برای افراد شود.
• فقدان شفافیت: در بسیاری از موارد، نحوه عملکرد سیستمهای تشخیص چهره و نحوه استفاده از داده‌های جمع‌آوری شده توسط آنها شفاف نیست. این موضوع نگرانی‌های زیادی را در مورد عدم پاسخگویی و سوء استفاده از قدرت به وجود می‌آورد.
آسیب‌های روانی نظارت فراگیر:
علاوه بر خطرات ذکر شده، نظارت فراگیر و تشخیص چهره می‌تواند آسیب‌های روانی قابل توجهی به افراد جامعه وارد کند. این آسیب‌ها می‌توانند شامل موارد زیر باشند:
• استرس و اضطراب: دائماً تحت نظر بودن می‌تواند منجر به افزایش سطح استرس و اضطراب در افراد شود.
• ترس و پارانوئید[۳] اجتماعی: ترس از اینکه دائماً ردیابی و نظارت می‌شوند، می‌تواند منجر به احساس ترس و پارانوئید در افراد جامعه و در نتیجه کاهش عمومی سطح اعتماد و انسجام اجتماعی شود.
• انزوا و افسردگی: احساس اینکه حریم خصوصی آنها نقض شده و تحت کنترل هستند، می‌تواند منجر به احساس انزوا و افسردگی در افراد شود.
• خودسانسوری: افراد ممکن است به دلیل ترس از نظارت، از بیان آزادانه افکار و نظرات خود خودداری کنند. این آسیب روانی به صورت مستقیم باعث گسترش دروغگویی و اختلال چندشخصیتی در جامعه می‌شود و افراد را وامی‌دارد تا احساس کنند که نمی‌توانند با عقایدی که به آنها باور دارند زندگی کنند. در نتیجه زندگی خصوصی و اجتماعی ایشان از الگوهای متعارضی تبعیت کرده و باعث تشدید فاصله و عدم انسجام اجتماعی می‌شود.
• بی‌اعتمادی به دیگران: نظارت فراگیر می‌تواند منجر به از بین رفتن اعتماد بین افراد و ایجاد فضایی از سوء ظن و بی‌اعتمادی شود.
تشخیص چهره در قانون هوش مصنوعی اتحادیه اروپا:
تشخیص چهره در مکان‌های عمومی به عنوان «سیستم هوش مصنوعی با ریسک بالا» در قانون هوش مصنوعی اتحادیه اروپا طبقه‌بندی شده است. این به این معنی است که استفاده از این فناوری برای شناسایی و ردگیری افرادی که مشخصات آنها در فهرست‌های نظارتی ثبت شده، مشمول الزامات و نظارت‌های سختگیرانه‌ای است. برخی از الزامات کلیدی برای سیستمهای تشخیص چهره در مکان‌های عمومی عبارتند از:
• ارزیابی انطباق: قبل از استفاده از سیستم تشخیص چهره، باید توسط یک ارزیابی کننده مستقل ارزیابی شود تا از انطباق آن با الزامات قانون هوش مصنوعی اتحادیه اروپا اطمینان حاصل شود.
• اقدامات امنیتی: باید اقدامات امنیتی مناسب برای محافظت از داده‌های جمع‌آوری شده توسط سیستم تشخیص چهره اعمال شود.
• حقوق افراد: افراد (محدود به فهرست‌های نظارتی) باید در مورد اینکه از آنها در مکان‌های عمومی عکس گرفته می‌شود و اطلاعات آنها چگونه پردازش می‌شود، آگاه شوند. آنها همچنین باید حق دسترسی به داده‌های خود و اعتراض به پردازش آن را داشته باشند.
نتایج کوتاه‌مدت و بلندمدت:
• کاهش اعتماد به دولت و نهادهای اجتماعی: نظارت فراگیر می‌تواند منجر به کاهش اعتماد مردم به دولت و نهادهای اجتماعی شود. این امر می‌تواند به بی‌ثباتی سیاسی و اجتماعی و همچنین افزایش جرم و جنایت منجر شود. از سوی دیگر، پشتوانه اجتماعی و مردمی نظام حاکم سیاسی را به مرور از بین برده و چنانچه مدیران سیاسی یک کشور نیاز به حمایت جامعه (حتی برای اصلاح امور شهروندان همان جامعه یا مقابله با مشکلات فراگیر اجتماعی مانند جنگ، همه‌گیری یا مانند آن) داشته باشند، از این حمایت محروم خواهند بود.
• افزایش انزوا و افسردگی: احساس دائماً تحت نظر بودن می‌تواند منجر به افزایش انزوا و افسردگی در افراد شود. این امر می‌تواند به مشکلات سلامت روان و همچنین کاهش بهره‌وری اقتصادی منجر شود.
• خودسانسوری و سرکوب آزادی بیان: ترس از نظارت می‌تواند منجر به خودسانسوری و سرکوب آزادی بیان شود. این امر می‌تواند به راکد شدن جامعه و همچنین کاهش نوآوری و خلاقیت منجر شود. نتیجه مستقیم کاهش نوآوری و خلاقیت عمومی در یک جامعه، می‌تواند زیان‌های جبران‌ناپذیری را در ابعاد مختلف علمی، تولید، اقتصاد، فرهنگ و سایر حوزه‌ها به جامعه وارد آورد.
• فقدان هویت و تعلق: نظارت فراگیر می‌تواند منجر به احساس فقدان هویت و تعلق در افراد شود. این امر می‌تواند به مشکلات سلامت روان و همچنین افزایش جرم و جنایت منجر شده و بی‌تفاوتی اجتماعی را تشدید کند.
• تمرکز قدرت در دست تعداد محدودی: نظارت فراگیر می‌تواند به تمرکز قدرت در دست تعداد محدودی از افراد یا نهادها منجر شود. این امر می‌تواند به نابرابری و تبعیض منجر شود.
• ایجاد جامعه‌ای ترس‌آلود و بی‌اعتماد: نظارت فراگیر می‌تواند به ایجاد جامعه‌ای ترس‌آلود و بی‌اعتماد منجر شود. این امر می‌تواند به خشونت و ناآرامی‌های اجتماعی منجر شود.
• کاهش مشارکت مدنی: افراد ممکن است به دلیل ترس از نظارت، از مشارکت در فعالیت‌های سیاسی و اجتماعی خودداری کنند. این امر می‌تواند به تضعیف دموکراسی و جامعه مدنی منجر شود.
• افزایش تنش‌های اجتماعی: نظارت فراگیر می‌تواند به افزایش تنش‌های اجتماعی بین گروه‌های مختلف مردم منجر شود. این امر می‌تواند به خشونت و ناآرامی‌های اجتماعی منجر شود.
• مهاجرت و فرار مغزها: افراد ممکن است به دلیل ترس از نظارت، از کشور خود مهاجرت کنند. این امر می‌تواند به از دست رفتن سرمایه انسانی و تضعیف اقتصاد کشور منجر شود.
• ایجاد جامعه‌ای تحت کنترل: نظارت فراگیر می‌تواند به ایجاد جامعه‌ای تحت کنترل منجر شود که در آن افراد آزادی خود را برای انتخاب، عمل و بیان آزادانه از دست می‌دهند.
راه حل‌های پیشنهادی:
راه حل اصلی را می‌توان بر محور ایجاد اعتماد و ارتباطات انسانی و حفاظت از حقوق و آزادی‌های بنیادی استوار نموده و در قالب عناوین زیر بیان نمود.
• محدود کردن استفاده از نظارت فراگیر: باید قوانین و مقررات سختگیرانه‌ای برای محدود کردن استفاده از نظارت فراگیر و اطمینان از استفاده از آن فقط در موارد ضروری و با نظارت مناسب وضع شود.
• افزایش شفافیت: دولتها باید در مورد نحوه عملکرد سیستمهای نظارت فراگیر و نحوه استفاده از آنها شفاف باشند. افراد باید حق دسترسی به اطلاعات مربوط به اینکه آیا تحت نظارت قرار گرفته‌اند یا خیر و نحوه استفاده از داده‌های آنها را داشته باشند.
• تقویت نظارت و پاسخگویی: باید نهادهای مستقل و قدرتمندی برای نظارت بر استفاده از نظارت فراگیر و اطمینان از پاسخگویی دولتها در قبال اقدامات خود در این زمینه ایجاد شود.
• حفاظت از داده‌ها: باید اقدامات امنیتی قوی برای محافظت از داده‌های جمع‌آوری شده در مورد افراد در سیستمهای نظارت فراگیر اعمال شود.
• ممنوعیت استفاده از تشخیص چهره برای مطابقت با فهرست‌های نظارتی: باید استفاده از تشخیص چهره برای مطابقت با فهرست‌های نظارتی در مکان‌های عمومی ممنوع شود.
• افزایش آگاهی عمومی: باید در مورد خطرات نظارت فراگیر و اهمیت حریم خصوصی و آزادی‌های مدنی آگاهی عمومی ایجاد شود.
• حمایت از جامعه مدنی: باید از سازمان‌های جامعه مدنی که برای محافظت از حریم خصوصی و آزادی‌های مدنی فعالیت می‌کنند حمایت شود.
نتیجه‌گیری:
نظارت فراگیر و تشخیص چهره شهروندان، به ویژه در ارتباط با لیست‌های نظارتی، خطرات جدی برای حریم خصوصی، آزادی و امنیت افراد به همراه دارد. باید اقدامات فوری برای محدود کردن استفاده از این فناوری‌ها و تضمین استفاده مسئولانه از آنها انجام شود. قانون هوش مصنوعی اتحادیه اروپا گامی مهم در جهت تنظیم‌گری هوش مصنوعی و کاهش خطرات مرتبط با آن است و هر کشوری می‌تواند با استفاده از مفاد آن، قوانین بومی و محلی مناسبی برای خود تودوین نماید. با این حال، لازم است که اقدامات بیشتری برای اطمینان از اینکه هوش مصنوعی به نفع بشریت استفاده می‌شود، انجام شود.
منابع:
• گزارش «هوش مصنوعی و حقوق بشر» توسط کمیساریای عالی حقوق بشر سازمان ملل متحد
• مقاله «تشخیص چهره: یک تهدید برای حقوق بشر» توسط ACLU
• گزارش «هوش مصنوعی و آینده حقوق بشر» توسط Human Rights Watch
پی‌نوشت:
[۱] ماده ۱۷ کنوانسیون ملل متحد علیه جرم و جنایت سازمان‌یافته به تعهد دولتها به ایجاد و حفظ «سیستمهای اطلاعاتی» برای جلوگیری از جرم و جنایت سازمان یافته اشاره می‌کند. این سیستم‌ها می‌توانند شامل فهرست‌هایی از افراد یا گروه‌هایی باشند که به عنوان مجرمان شناخته شده یا مظنون به جرم و جنایت سازمان یافته هستند. ماده ۹ قانون آیین دادرسی کیفری ایران به «رصد اطلاعاتی» به عنوان یکی از روش‌های جمع‌آوری اطلاعات برای تحقیقات جنایی اشاره می‌کند. این رصد اطلاعاتی می‌تواند شامل استفاده از فهرست‌های نظارتی برای شناسایی و ردیابی افراد مظنون به جرم باشد. ماده ۱۰ قانون مبارزه با جرایم رایانه‌ای به «لیست‌های سیاه» به عنوان یکی از ابزارهای پیشگیری از جرایم رایانه‌ای اشاره می‌کند. این لیست‌ها می‌توانند شامل وب‌سایت‌ها یا آدرس‌های IP باشند که به عنوان مخرب یا خطرناک شناخته شده‌اند. در عین حال که این موارد قانونی به نوعی به فهرست‌های نظارتی اشاره دارند، اما نویسنده تعریف واحدی از این اصطلاح در قوانین بین‌المللی یا قوانین ایران به صورت مدون و مجزا نیافت.
[۲] این آمار در کشورهای مختلف بر حسب شرایط آن کشور و نوع حکومت متغیر است و به صورت طبیعی در کشورهای توسعه‌یافته کمتر و در کشورهای در حال توسعه یا عقب‌مانده به دلیل وجود تعداد بیشتر قوانین محدودکننده شهروندان، بیشتر است.
[۳] بدگُمانی یا پارانویا (به انگلیسی: Paranoia ) در تعریف عام آن، نوعی اختلال شخصیتی است که در آن فکر انسان که تحت تأثیر اضطراب یا ترس به حالتی غیرمنطقی و وهم آلود در می‌آید. افراد پارانوئید معمولاً فکر می‌کنند که دیگران برای آزار و اذیت آنها می‌کوشند یا فکر می‌کنند که دیگران به دنبال توطئه علیه آنها هستند.
