دستیار هوش مصنوعی قوه قضاییه پرونده رو خلاصه میکنه و وقایع رو مرتب میچینه؛ ولی رأی آخر با قاضیه
⚖️ هوش مصنوعی آرومآروم داره به یکی از حساسترین جاهای هر کشوری، یعنی دادگاهها، نزدیک میشه. سهشنبه ۲۶ آبان ۱۴۰۵ (۱۷ نوامبر ۲۰۲۶)، پژوهشگاه قوه قضاییه یه نشست تخصصی با عنوان «هوش مصنوعی در امر قضا؛ ادله فقهی، الزامات حقوقی و چالشهای فنی» برگزار کرد و روابط عمومی همین پژوهشگاه گزارشش رو منتشر کرده. اینجا خلاصهٔ حرفها رو براتون آوردیم.
دستیار قاضی، نه جانشینش
خبر اصلی این نشست از زبون دکتر محمد پهلوانی، معاون امور سامانهها و هوش قضایی مرکز آمار و فناوری اطلاعات قوه قضاییه، اومد. ایشون از دستاوردهای «دستیار هوش مصنوعی قضایی» گفت؛ سامانهای که این سه تا کار رو انجام میده:
- خلاصه کردن مستندات: بهجای اینکه قاضی همهٔ برگههای یه پرونده رو از اول تا آخر بخونه، یه خلاصهٔ جمعوجور جلوش هست.
- بیرون کشیدن دادهها: اطلاعات لازم از دل مدارک درمیاد و یه جا جمع میشه.
- چیدن سیر زمانی وقایع: اتفاقهای پرونده به ترتیب زمانی مرتب میشن تا معلوم باشه چی، کِی و بعد از چی اتفاق افتاده.
ولی یه خط قرمز روشن هم کشید: به گفتهٔ خودش، حتی با اینهمه توانایی مدلهای زبانی، سنجیدن اعتبار ادله و گرفتن تصمیم نهایی قضایی باید همچنان دست قاضی بمونه.
چطوری جلوی جوابهای مندرآوردی رو میگیرن؟
پهلوانی گفت برای اینکه جوابهای این دستیار قابل استناد باشن، از مدلهای مبتنی بر RAG (Retrieval-Augmented Generation، یعنی جواب دادن با تکیه بر منابع واقعی) استفاده میکنن. توی این روش، مدل قبل از جواب دادن اول میره سراغ اسناد و منابع و بعد بر اساس همونها جواب میده.
با این حال خودش هم رک گفت که «توهم الگوریتمی»، یعنی وقتی مدل با اعتمادبهنفس چیزی رو از خودش میسازه، و خطاهای احتمالی موقع بیرون کشیدن دادهها، از بزرگترین سدهای فعلیان و بدون نظارت دقیق انسانی نمیشه بهشون تکیه کرد.
عدالت فقط دقت فنی نیست
دکتر زهرا رضایی، رئیس مرکز حقوق و هوش مصنوعی پژوهشگاه، رفت سراغ یه بحث ظریفتر: عدالت الگوریتمی. ایشون گفت خروجی این سامانهها باید Explainability (توضیحپذیری) و Interpretability (تفسیرپذیری) داشته باشه؛ یعنی معلوم باشه سامانه چرا به یه نتیجه رسیده. هشدار هم داد که اگه دادههای قدیمی پر از تبعیض باشن، مدل همون تبعیضها رو دوباره تکرار میکنه. پیشنهادش این بود که توی معماری سامانههای قضایی، «موتورهای ارزیابی انصاف» ساخته بشه تا پیدا کردن خطر تبعیض از همون اول بخشی از ساخت و استفادهٔ این سامانهها باشه.
نگاه فقهی و بومی
دکتر علی کاظمی، رئیس پژوهشگاه قوه قضاییه، گفت نباید فقط مصرفکنندهٔ فناوریای باشیم که بقیه ساختن و لازمه روشها و الگوهای بومی برای هوش مصنوعی قضایی طراحی بشه. آیتالله ابوالقاسم علیدوست هم از نگاه فقه امامیه امکان استفاده از هوش مصنوعی توی قضا رو بررسی کرد و روی محدودیتهای فعلی این فناوری توی سنجیدن ویژگیهای فردی، روانی و اجتماعی متهم، مثلاً برای تعیین مجازاتهای تعزیری، دست گذاشت.
برای شما چه فرقی میکنه؟
اگه این مسیر جلو بره، بخشی از کارهای وقتگیر پرونده، مثل خوندن و خلاصه کردن مدارک و مرتب کردن وقایع، رو ماشین انجام میده و وقت قاضی بیشتر صرف خود تصمیمگیری میشه. از طرف دیگه، تأکید روی نظارت انسانی، توضیحپذیری و انصاف یعنی قرار نیست یه الگوریتم بیصدا دربارهٔ پروندهٔ کسی حکم بده. توی گزارش منتشرشده جزئیاتی دربارهٔ زمان استفادهٔ گسترده یا تعداد پروندههایی که این دستیار روشون کار کرده نیومده.
📌 جمعبندی: هوش مصنوعی توی دستگاه قضای ایران فعلاً نقش منشی باهوش رو داره، نه قاضی. #هوش_مصنوعی #قوه_قضاییه #هوش_مصنوعی_ایران