پر کردن سه بررسی از دست رفته برای ارزیابی‌های تاثیر الگوریتمی IRCC

به ،وان یک خدمت عمومی، و شفاف از آنجایی که من باید در کار خود در این منطقه نیز به این موارد اشاره کنم، سه بررسی همتا را به اشتراک می گذارم که هنوز توسط اداره مهاجرت، پناهندگی و شهروندی کانادا (“IRCC”) منتشر نشده اند و در ارزیابی تاثیر الگوریتمی منتشر شده در دسترس قرار نگرفته اند. “AIA”) صفحات از دبیرخانه هیئت ،انه داری (“TBS”).

اول، یک خلاصه. پس از بررسی سوم دستورالعمل تصمیم گیری خودکار (“DADM”) و بازخورد از طرف ذینفعان، پیشنهاد شد که بخش بررسی همتا اصلاح شود تا نیاز به تکمیل بررسی و انتشار باشد. قبل به تولید سیستم

تکرار قبلی DADM نه نیازی به انتشار داشت و نه زمان بازبینی را مشخص می‌کرد. انگیزه این امر افزایش اعتماد عمومی به سیستم های خودکار تصمیم گیری (“ADM”) بود. همانطور که در خلاصه اصلاحیه پیشنهادی در صفحه 15 آمده است:

فقدان مک،زمی که انتشار بررسی‌های همتا (یا اطلاعات مرتبط) را ا،امی کند، فرصت از دست رفته را برای تقویت اعتماد عمومی در استفاده از سیستم‌های تصمیم‌گیری خودکار از طریق ارزیابی کارشناسان خارجی ایجاد می‌کند. انتشار حداقل خلاصه‌ای از بررسی‌های تکمیل‌شده همتایان (با توجه به چالش‌های افشای داده‌های حساس برنامه، اسرار تجاری، یا اطلاعات مربوط به سیستم‌های اختصاصی) می‌تواند شفافیت و مسئولیت‌پذیری را با توانمندسازی ذینفعان برای اعتبارسنجی اطلاعات در AIA تقویت کند. ا،ام فعلی همچنین در مورد زمان‌بندی بررسی‌های همتا بی‌صدا است، و هم برای دپارتمان‌ها و هم برای بازبین‌ها عدم اطمینان در مورد تکمیل بررسی قبل یا در حین استقرار سیستم ایجاد می‌کند. برخلاف ممیزی‌ها، بررسی‌ها زم، مؤثرتر هستند که در کنار یک AIA، قبل از تولید یک سیستم در دسترس قرار گیرند، به طوری که بتوانند عملکرد خود را به‌،وان لایه‌ای دیگر از اطمینان انجام دهند. اصلاحات پیشنهادی با گسترش ا،ام به اجباری شدن انتشار و مشخص ، زمان بررسی، به این مسائل می پردازد. بررسی‌های همتای منتشر شده (یا خلاصه‌ای از بررسی‌ها) مستندات مربوط به نتایج ممیزی‌ها یا بررسی‌های دیگری را تکمیل می‌کند که این دستورالعمل به ،وان بخشی از ا،امات اخطاریه، پروژه را م،م به افشای آنها می‌کند (پیوست C دستورالعمل را ببینید). (تأکید اضافه شده است)

بر اساس بخش 1 DADM، با نزدیک شدن به تاریخ 25 آوریل 2024، ما باید بررسی های ارسال شده بیشتری را برای ارزیابی تأثیر الگوریتمی گذشته (“AIA”) مشاهده کنیم.

این دستورالعمل برای تمام سیستم های تصمیم گیری خودکار توسعه یافته یا ،یداری شده پس از آن اعمال می شود 1 آوریل 2020. با این حال،

• 1.2.1 سیستم های موجود توسعه یافته یا ،یداری شده قبل از 25 آوریل 2023 خواهد داشت تا 25 آوریل 2024 برای انتقال کامل به ا،امات در بخش‌های فرعی 6.2.3، 6.3.1، 6.3.4، 6.3.5 و 6.3.6 در این بخشنامه؛
• 1.2.2 سیستم های جدید توسعه یافته یا ،یداری شده پس از آن 25 آوریل 2023 خواهد داشت تا 25 اکتبر 2023 برای برآوردن ا،امات این بخشنامه. (تأکید اضافه شده است)

انگیزه پشت دوره مهلت، در خلاصه اصلاحیه پیشنهادی آنها در صفحه 8 بیان شد:

TBS چالش انطباق با ا،امات خط مشی جدید را در حین برنامه ریزی یا اجرای پروژه هایی که مشمول آنها هستند، تشخیص می دهد. در پاسخ، یک “دوره مهلت” 6 ماهه پیشنهاد می شود تا به بخش ها زمان داده شود تا برای انطباق با دستورالعمل اصلاح شده برنامه ریزی کنند. برای سیستم‌هایی که قبلاً در تاریخ انتشار وجود دارند، TBS پیشنهاد می‌کند که به بخش‌ها یک سال کامل اعطا شود تا از ا،امات جدید در دستورالعمل پیروی کنند. معرفی این دوره بخش ها را قادر می سازد تا برای ادغام اقدامات جدید در سیستم های اتوماسیون موجود برنامه ریزی کنند. این می تواند شامل انتشار بررسی های قبلی تکمیل شده یا اجرای اقدامات جدید حاکمیت داده برای داده های ورودی و ،وجی باشد.

در این دوره، این سیستم ها همچنان مشمول ا،امات جاری دستورالعمل خواهند بود. (تأکید اضافه شده است)

بخش جدید DADM بیان می کند:

بررسی دقیق

• 6.3.5 مشاوره با کارشناسان واجد شرایط من، جهت بررسی سیستم تصمیم گیری خودکار و انتشار بررسی کامل یا خلاصه ای از یافته ها به زبان ساده قبل از تولید سیستم، همانطور که در پیوست C تجویز شده است. (تأکید اضافه شده است)

ضمیمه C برای سطح 2 – پروژه های با تأثیر متوسط ​​(که تمام پروژه های هشت گانه AIA IRCC خود طبقه بندی شده اند) ا،امات به شرح زیر است:

حداقل با یکی از کارشناسان زیر مشورت کنید و بررسی کامل یا خلاصه ای از یافته ها را به زبان ساده در وب سایت ،ت کانادا منتشر کنید:

کارشناس واجد شرایط از یک نهاد ،تی فدرال، است،، منطقه ای یا شهری

اعضای واجد شرایط هیئت علمی یک موسسه فوق متوسطه

محققان واجد شرایط از یک سازمان غیر،تی مربوطه

فروشنده شخص ثالث با تخصص مربوطه

یک هیئت مشاوره داده و اتوماسیون که توسط دبیرخانه هیئت ،انه داری کانادا مشخص شده است

یا:

مشخصات سیستم تصمیم گیری خودکار را در یک مجله معتبر منتشر کنید. در مواردی که دسترسی به مرور منتشر شده محدود است، اطمینان حاصل کنید که خلاصه‌ای از یافته‌ها به زبان ساده در دسترس است.

ما باید منتظر حرکت در دو هفته آینده باشیم.

همانطور که در اینجا نوشتم، IRCC یکی از بررسی های همتایان خود را ارسال کرده است، این یکی برای مدل واجد شرایط بودن مجوز کار کانادا با تجربه بین المللی. من این را (در کنار سایر بررسی‌های همتایان) در وبلاگ آینده و اینکه چرا فکر می‌کنم در سؤالاتی که در مورد سوگیری اتوماسیون مطرح می‌کند مهم است، تحلیل خواهم کرد.

با توجه به موارد فوق، من سه بررسی همتا را برای IRCC AIA به اشتراک می گذارم. اینها ممکن است آ،ین مواردی باشند که IRCC در نهایت احتمالاً قبل از 25 آوریل 2024 پست می کند یا نه.

من سند را در زیر نام مربوطه AIA ارسال کرده ام. لطفاً توجه داشته باشید که نمایشگر PDF روی دستگاه های تلفن همراه کار نمی کند. به این ترتیب، برای سهولت مشاهده/دانلود شما، پیوندی به سند مش، Google اضافه کرده ام.

(1) همسر یا قانون عرفی در کانادا تجزیه و تحلیل پیشرفته (پیوند)

A-2022-00374_ – آمار می تواند در مورد مدل هوش مصنوعی همسران بررسی شود

توجه: ما می د،م که IRCC از AA برای ک، خانواده همسر در خارج از کشور نیز استفاده کرده است، اما از آنجایی که این یک مدل «فقط تریاژ» است، به نظر می رسد IRCC یک AIA جداگانه برای این کار منتشر نکرده است.

(2) تریاژ تجزیه و تحلیل پیشرفته برای برنامه های ویزای اقامت موقت خارج از کشور (پیوند)

مرکز داده NRC – بررسی همتایان 2018 از A-2022-70246

توجه: احتمال خوبی وجود دارد که این یک بررسی اولیه همتا قبل از مدل فعلی باشد. هسته اصلی تجزیه و تحلیل نیز به زبان فرانسوی است (که در وبلاگ بعدی دوباره آن را توضیح خواهم داد)

(3) ابزار تجزیه و تحلیل روندهای یکپارچگی (که قبلاً به ،وان برج مراقبت شناخته می شد) (پیوند)

صفحاتی از A-2022-70246 – Peer Review – AA – Watchtower Peer Review

توجه: ITAT قبلاً به ،وان برج مراقبت و همچنین فانوس دریایی شناخته می شد. این پروژه در پاسخ به بررسی همتایان و دیگر بازخوردها دستخوش تغییرات گسترده ای شده است، بنابراین مطمئن نیستم که آیا قبل از انتشار رسمی ITAT، بررسی همتایان اخیری وجود داشته است یا خیر.

من نظرات خود را در مورد این بررسی های همتا در نوشته های بعدی به اشتراک خواهم گذاشت، اما می خواستم ابتدا آن را در آنجا منتشر کنم زیرا محتوای این بررسی های همتا به کار و ارائه هایی که در ماه های آینده انجام می دهم مرتبط خواهد بود. امیدواریم که IRCC خود سند را منتشر کند تا محققان بتوانند در این مورد گفتگو کنند.

یک نکته/توصیه من در این زمینه، این است که ما باید آنچه را که دیلون رایسمن، جیسون شولتز، کیت کرافورد، مردیث ویتاکر در گزارش سال 2018 خود با ،وان: «ارزیابی‌های تأثیر الگوریتمی: یک چارچوب عملی برای امکان عمومی پیشنهاد می‌دهد» دنبال کنیم. دسترسی م،ی دار و یک دوره نظر.

اگر این ایده واقعاً برای اعتماد عمومی باشد، جریان فرآیند ایده‌آل من باعث می‌شود که یک نهاد (مثلاً IRCC) یک پیش‌نویس AIA را با بررسی همتا و گزارش GBA+ منتشر کند و به عموم (ذینفعان خارجی/کارشناسان/بار و غیره) اجازه می‌دهد تا نظرات خود را قبل از آن ارائه کنند. تولید سیستم شروع می شود من چندین ایمیل بین TBS و IRCC را بررسی کرده ام، برای مثال، و در مورد روند بررسی این پروژه ها متقاعد نشده ام. بسیاری از سوالاتی که باید پرسیده شوند به تخصص موضوعی بین رشته ای (به ویژه در قانون و سیاست مهاجرت) نیاز دارند که من آن را در فرآیند تایید AIA و بررسی همتایان نمی بینم.

نظر شما چیست؟ من بررسی های همتایان را در یک پست وبلاگی که در آینده می آید تجزیه و تحلیل خواهم کرد.