هوش‌مصنوعی توضیح‌پذیر بالفعل

یکی از اهداف ما افزایش اختیار و شناخت انسان در استفاده از ابزار هوش‌مصنوعی است.

هدف ما تولید ابزار هوش‌مصنوعی است که بتوان داده‌ی تاثیر گذار در فرایند استنتاج را دید و آنها را بدون نیاز به آموزش مجدد هوش‌مصنوعی عوض کرد.

نمونه‌ی اولیه که ما ساختیم با ترکیبی از یادگیری عمیق و یادگیری تنبل به ما اجازه‌ی دخالت در داده‌های تاثیرگذار را میدهد. میتوانید نمونه‌ی کد آن را در این صفحه ببینید و آزمایش کنید.

توضیح‌پذیری بالفعل با داده‌های خوشه‌ای

ترکیب مدل‌های RAG با مدل‌های توضیح‌پذیر بالفعل برای سرعت و شخصی‌سازی.

توضیح‌پذیری بالفعل با جستجوی پیشرفته

استفاده از الگوریتم‌های جستجوی سریع (مانند KNN) در آموزش و استنتاج با در نظر گرفتن سهم اهمیت (و نه لزوماً شباهت و نزدیکی).

مدل‌های عمیق با یادگیری تنبل

پیاده‌سازی یادگیری تنبل با شبکه‌های عصبی عمیق و جداسازی اطلاعات از پردازش شبکه.

توضیح بالفعل بر روی ویژگی‌های ورودی

تبدیل مدل‌های بالفعل به مدل‌هایی با قابلیت تشخیص و تغییر در سطح تاثیر ویژگی‌های داده‌ی ورودی. مثلاَ با الهام گیری از مدل ViT بر روی داده‌های تصویری.

شرطی خلاف واقع برای افزایش سهم تأثیر

استفاده از مشتقات سهم تأثیر برای نمونه‌ی خلاف واقع با کاربرد‌های poisonning، re-biassing، dataset summaries.

موازی‌سازی پردازش مدل‌ها روی شبکه

با استفاده از موازی سازی پردازش مدل‌ها روی شبکه میتوان از منابع معطل زیادی برای استنتاج (inference) مدل‌ها استفاده کرد که دیگر نیازی به مرکز گرا بودن این فرایند نباشد. مثلاَ شروع با مدل‌های Transformer.

استنتاج موازی بهینه روی شبکه

رسیدن به استنتاج مدل‌های موازی شده به ما کمک میکند علی رغم داشتن مدل های خرد و کوچک در شبکه، استنتاج های مناسب و سریع با استفاده از ترکیب چند مدل را رقم زد.

پردازش همزمان و موازی مدل‌ها روی شبکه زمان محاسبات را کاهش داده و مدل های طراحی شده را بهینه و کاربر پسند خواهد کرد.

استفاده از منابع توزیع شده

پیاده سازی پلتفرمی برای توسعه آموزش مدل های توزیع شده بر روی شبکه ماند Keras، Torch، SparkML که آموزش در لحظه را در اختیار محققان و کاربران بگذارد.

بالا بردن ظرفیت خطای ورودی مدل در شبکه متزلزل

بالا بردن توانایی تعمیم پذیری مناسب و ترکیب مناسب داده‌ها مثلاَ با استفاده‌ی روشی مشابه dropout.

امنیت داده‌ها با پردازش توزیع‌شده

آنالیز انکشاف در داده‌های مدل‌های توزیع ‌شده روش شبکه و بررسی امکان بالا بردن سطح خصوصی داده‌ها، مانند روش Differential provacy.

کشف روابط در پایگاه داده به وسیله‌ی مدل

پیدا کردن روابط در پایگاه داده؛ مثلاَ استفاده از مدل زبانی برای کشف رابطه‌ی استناد بین داده‌ها.

خلاصه سازی شرطی در پایگاه داده

ایا میتوان به صورت سلسله وار از مدل‌های مولد استفاده کرد و در هر مرحله با ترکیب خروجی با داده‌های دیگر خلاصه سازی نمود؟‍

تخمین ارزش‌گذاری متن برا اساس معیار

سنجش میزان هماهنگی و شباهت متون با متن‌های معیار که از جانب متخصص آگاه تعیین شده‌اند.

طراحی رفتار پرسشگر

مدل‌های مولد عموماً در غالب پاسخگو طراحی و استفاده می‌شوند. این امر می‌تواند باعث محدودیت بر خلاقیت انسان در تولید محتوی نو و جدید شود. در این پروژه ما به دنبال طراحی رفتار‌های کاربر (مانند prompt engineering) با محوریت مدل پرسشگر در مقابل انسان پاسخگو هستیم.

مدل‌های پرسشگر

ساخت مدل‌هایی که تسهیل‌کر خلق ایده‌ی نو توسط کاربر هستند و نه اینکه خود مولد باشند. چگونه کاربر راهنمایی شود بدون اینکه مدل جهت‌دهی خاصی را به او بدهد؟ و چگونه در خلق گمانه‌ی نو میتواند موثر باشد؟

حکمرانی با هوش‌مصنوعی

ابزار هوش‌مصتوعی در کدم امور میتواند به کمک مجری و قانون‌گذار بیاید؟

حکمرانی برای هوش‌مصنوعی

چه ملاحضاتی در زمینه‌ی قانون‌گذاری باید در نظر گرفته شوند؟

یکی از اهداف بلند مدت ما تولید هوش‌مصنوعی با کاربرد تسهیل روابط شناختی در گروه و جامعه است. ما دنبال پاسخ به این پرسش هستیم که چه ابزاری بهتر میتواند این روابط را مدل سازی و بهینه کند و ما چگونه میتوانیم آن را بسازیم.

معیارهای کلی:

۱. گسترش اختیار و آگاهی فردی و اجتماعی
۲. عبور از انحصار زیرساختی و افزایش حاکمیت انسان بر سرمایه
۳. افزایش دگرخواهی و تقابل با فردگرایی و منفعت طلبی