شفقنا افغانستان– دولت کانادا در حال آزمایش استفاده از هوش مصنوعی برای کمک به تهیه گزارشهای کیفری برای زندانیان فدرال است، اقدامی که با انتقاد شدید روبرو شده است؛ اقدامی که بر اساس گزارشی که روز دوشنبه منتشر شد، با انتقادهای تند و گستردهای روبهرو شده است.
به گزارش سرویس ترجمه شفقنا به نقل از روزنامه تورنتو استار، این «آزمایش در مقیاس کوچک» که از سوی سازمان خدمات اصلاح و تربیت کانادا تأیید شده و در اسناد ارائهشده به پارلمان نیز به آن اشاره شده است، با هدف کمک به کارکنان برای پردازش حجم بالای اطلاعات در زمان پذیرش زندانیان انجام میشود.
سازمان خدمات اصلاح و تربیت کانادا به این رسانه اعلام کرد که این ابزار در حال آزمایش است تا مشخص شود آیا هوش مصنوعی میتواند ضمن حفظ نظارت انسانی، به سازماندهی و بررسی کارآمدتر اسناد موجود هنگام تهیه گزارشهای پروفایل کیفری کمک کند یا خیر.
استر مایلهو، سخنگوی این سازمان، گفت: تمرکز این طرح بر کمک به کارکنان در فرآیند زمانبر بررسی اسناد، تحلیل اطلاعات و استخراج دادهها از منابعی است که برای تهیه پروفایل کیفری مورد استفاده قرار میگیرند.» او افزود که این سامانه «تاکنون در هیچ محیط عملیاتی به کار گرفته نشده است.
وی همچنین گفت ارزیابی این طرح انتظار میرود تا پایان ماه ژوئن تکمیل شود و هنوز هیچ تصمیم نهایی در این زمینه اتخاذ نشده است.
در این گزارش آمده است که این طرح آزمایشی در قالب قراردادی به ارزش ۱۲۳ هزار دلار با شرکت مشاورهای اکسنچر اجرا شده و در محیط آزمایشی از دادههای ناشناسسازیشده یا دادههای مصنوعی استفاده شده است.
با این حال، کارشناسان و مدافعان حقوقی نسبت به خطرات اتکا به هوش مصنوعی در ارزیابیهای حساس مرتبط با نظام اصلاح و تربیت هشدار دادهاند.
جنیفر ایوانز، مدیر شرکت پترن پالس اِیآی، هشدار داد که خطاهای هوش مصنوعی در چنین زمینهای میتواند پیامدهای بسیار جدی به همراه داشته باشد.
«تشخیص خطاها دشوار است، این خطاها گسترش پیدا میکنند و اگر فردی وجود نداشته باشد که با دقت بسیار زیاد صحت هر پرونده را بررسی کند، نمیتوان فهمید که آیا کار بهدرستی انجام شده است یا خیر. این موضوع تقریباً فایده خود نرمافزار را در این مورد خاص زیر سؤال میبرد.»
او افزود: هیچ راهی برای حذف کامل این مشکل وجود ندارد. هیچ میزان آموزشی و هیچ مقداری از آنچه افراد «دادههای بهتر» مینامند، هرگز نمیتواند مسئله توهمسازی هوش مصنوعی را از بین ببرد.
ایوانز همچنین هشدار داد که شناسایی چنین خطاهایی ممکن است به نظارت گسترده انسانی نیاز داشته باشد؛ موضوعی که میتواند هرگونه صرفهجویی در زمان و افزایش بهرهوری را خنثی کند.
بر اساس این گزارش، جنی کوان، نماینده حزب دموکرات نوین، نیز خواستار احتیاط شد و تأکید کرد که پیش از گسترش استفاده از این فناوری در مراکز اصلاح و تربیت، باید مشورتهای گستردهتری انجام شود.
هاوارد ساپرز از انجمن آزادیهای مدنی کانادا نیز هشدار داد که سوابق قدیمی یا نادرست ممکن است توسط سامانههای هوش مصنوعی بازتولید شوند و این امر بهطور بالقوه میتواند بر تصمیمگیریهای مربوط به آزادی مشروط و طبقهبندی زندانیان تأثیر بگذارد.
این خبر را اینجا ببینید.
