توضیح‌پذیری هوش‌مصنوعی

هوش‌مصنوعی توضیح‌پذیر بالفعل

ترکیبی از یادگیری عمیق و یادگیری تنبل به ما اجازه‌ی دخالت در داده‌های تاثیرگذار را میدهد.

• توضیح‌پذیری با پیدا کردن سهم تاثیر هر نمونه در داده‌های آموزش
• امکان ایجاد تغییر در سهم تاثیر هر نمونه بدون نیاز به آموزش مجدد مدل
• مد‌های پیش‌بینی کننده

• مدل‌های مولد

میتوانید نمونه‌ی کد این پروژه را در این صفحه ببینید و آزمایش کنید:

آدرس گیت هاب

توضیح‌پذیری بالفعل با داده‌های خوشه‌ای

ترکیب مدل‌های RAG با مدل‌های توضیح‌پذیر بالفعل برای سرعت و شخصی‌سازی.

• پیاده سازی الگوریتم جستجوی سریع در پایگاه داده
• توضیح‌پذیری بالفعل با استفاده از داده‌های نزدیک
• استفاده از الگوریتم‌های جستجوی سریع (مانند KNN) در آموزش و استنتاج با در نظر گرفتن سهم اهمیت (و نه لزوماً شباهت و نزدیکی)

مدل‌های عمیق با یادگیری تنبل

پیاده‌سازی یادگیری تنبل با شبکه‌های عصبی عمیق و جداسازی اطلاعات از پردازش شبکه.

• ترکیب غیر خطی داده‌ها در فرایند استنتاج

• آموزش محلی بر روی داده‌ها در فرایند استنتاج
• (بهینه برای مدل های دیفیوژن) یادگیری تنبل برای وزن‌های مدل

میتوانید نمونه‌ی کد این پروژه را در این صفحه ببینید و آزمایش کنید:

به زودی

توضیح بالفعل بر روی ویژگی‌های ورودی

تبدیل مدل‌های بالفعل به مدل‌هایی با قابلیت تشخیص و تغییر در سطح تاثیر ویژگی‌های داده‌ی ورودی.

• استفاده از مدل ViT بر روی داده‌های تصویری
• مدل‌های autoregressive

شرطی خلاف واقع برای افزایش سهم تأثیر

استفاده از مشتقات سهم تأثیر برای نمونه‌ی خلاف واقع با کاربرد‌های poisonning، re-biassing، dataset summaries.

• حملات adversarial بر روی داده‌‌های ورودی و تغییر در تاثیر داده‌های آموزش
• حملات adversarial بر روی داده‌‌های آموزش و تغییر در عمکرد مدل

تخمین سهم‌تاثیر با استفاده از اندازه‌گیری قطعیت

محاسبه‌ی سهم تاثیر عملیات سنگین مشتق درجه‌ی دوم روی پارامتر‌های مدل را دارد که بسیار زمان‌بر و جاگیر است. با توجه به روش‌های خلاقانه وسریع در زمینه‌ی تخمین قطعیت وجود دارد، ترکیب این دو روش می‌تواند روش بهینه‌ای برای محاسبه‌ی سهم‌تاثیر را ارائه کند.

• روش‌ (های) بهینه برای تخمین قطعیت. مانند ensemble ها و یا dropout.
• ترکیب قطعیت و مشتقات ورودی برای تخمین Hessian-vector product و Influence function