توضیح‌پذیری هوش‌مصنوعی

سیستمی برای افزایش آگاهی و کنترل کاربر در فرآیند استنتاج مدل.

بیشتر بدانید

ویژگی ها

شفافیت در استنتاج

تولید مدل‌هایی که به صورت پیش‌فرض افزایش اطلاع کاربر از جزئیات فرایند آموزش و استنتاج را در نظر می‌گیرند.

امکان تغییر در فرایند استنتاج

ایجاد امکان تغییر در ابعاد مختلف تصمیم‌گیری مدل مانند انتخاب داده‌ها یا ویژگی‌های تاثیرگذار در خروجی مدل.

بازده و کارایی بالا

ارتقا و یا حفظ سرعت و دقت مدل توضیح‌پذیر در عین ایجاد امکان توضیح‌پذیری، و عبور از دوگانه‌ی شفافیت در مقابل کارایی.

گام‌نمای پروژه

هوش‌مصنوعی توضیح‌پذیر بالفعل

ترکیبی از یادگیری عمیق و یادگیری تنبل به ما اجازه‌ی دخالت در داده‌های تاثیرگذار را میدهد.

وضعیت پیشرفت
80

  • توضیح‌پذیری با پیدا کردن سهم تاثیر هر نمونه در داده‌های آموزش
  • امکان ایجاد تغییر در سهم تاثیر هر نمونه بدون نیاز به آموزش مجدد مدل
  • مد‌های پیش‌بینی کننده
  • مدل‌های مولد

ادرس گیت هاب

توضیح‌پذیری بالفعل با داده‌های خوشه‌ای

ترکیب مدل‌های RAG با مدل‌های توضیح‌پذیر بالفعل برای سرعت و شخصی‌سازی.

وضعیت پیشرفت
0

  • پیاده سازی الگوریتم جستجوی سریع در پایگاه داده
  • توضیح‌پذیری بالفعل با استفاده از داده‌های نزدیک
  • استفاده از الگوریتم‌های جستجوی سریع (مانند KNN) در آموزش و استنتاج با در نظر گرفتن سهم اهمیت (و نه لزوماً شباهت و نزدیکی)

ادرس گیت هاب

دورنمای پروژه

ایا میخواهید در توسعه این پروژه مشارکت کنید؟

منتظریم

ارتباط با ما