کار گروهی برای قدرت بخشی به اراده‌ی عموم انسانها

پروژه‌های با محوریت توسعه مدل (شناخت)

به نظر می‌رسد این فناوری برای تمدن سرمایه سالار از این جهت حیاتی است که در جهان آینده تسخیر سرمایه بیش از آنچه که از مجرای تسخیر سرزمین‌‌ها بگذرد، از مسیر تصرف شناخت افراد می‌گذرد و شاهد این ادعا نیز رونق مطالعات مربوط به علوم شناختی در امروز است و هوش‌مصنوعی یکی یا مهمترین ابزار شناختی در حال و یا آینده‌ای نه چندان دور خواهد بود. هرچند که تصرف در شناخت افراد می‌تواند در راستای اسارت انسان در دست انسان استیلاگر باشد؛ اما روی دیگر سکه، آن است که اگر این ابزار به نحوی منجر به شکوفایی شناخت و خلاقیت انسان شود، می‌تواند در راستای رهایی انسان از بردگی در نظام سرمایه‌داری مورد استفاده قرار گیرد. در قدم اول، ما تلاش میکنیم تا آگاهی کاربر را تا حد ممکن در فرایند استنتاج مدل‌ها بیشتر کنیم. باتوجه به آگاهی، در مرحله بعدی تلاش ما برای بالا بردن سطح اختیار کاربر در اعمال تغییر و به روز رسانی فرایند استنتاج مدل است.

هوش‌مصنوعی توضیح‌پذیر بالفعل

یکی از اهداف ما افزایش اختیار و شناخت انسان در استفاده از ابزار هوش‌مصنوعی است.

مشاهده جزئیات

توضیح‌پذیری بالفعل با داده‌های خوشه‌ای

ترکیب مدل‌های RAG با مدل‌های توضیح‌پذیر بالفعل برای سرعت و شخصی‌سازی.

مشاهده جزئیات

مدل‌های عمیق با یادگیری تنبل

پیاده‌سازی یادگیری تنبل با شبکه‌های عصبی عمیق و جداسازی اطلاعات از پردازش شبکه.

مشاهده جزئیات

توضیح بالفعل بر روی ویژگی‌های ورودی

تبدیل مدل‌های بالفعل به مدل‌هایی با قابلیت تشخیص و تغییر در سطح تاثیر ویژگی‌های داده‌ی ورودی. مثلاَ با الهام گیری از مدل ViT بر روی داده‌های تصویری.

مشاهده جزئیات

شرطی خلاف واقع برای افزایش سهم تأثیر

استفاده از مشتقات سهم تأثیر برای نمونه‌ی خلاف واقع با کاربرد‌های poisonning، re-biassing، dataset summaries.

مشاهده جزئیات

کشف روابط در پایگاه داده به وسیله‌ی مدل

پیدا کردن روابط در پایگاه داده؛ مثلاَ استفاده از مدل زبانی برای کشف رابطه‌ی استناد بین داده‌ها.

مشاهده جزئیات

خلاصه سازی شرطی در پایگاه داده

ایا میتوان به صورت سلسله وار از مدل‌های مولد استفاده کرد و در هر مرحله با ترکیب خروجی با داده‌های دیگر خلاصه سازی نمود؟‍

مشاهده جزئیات

تخمین ارزش‌گذاری متن برا اساس معیار

سنجش میزان هماهنگی و شباهت متون با متن‌های معیار که از جانب متخصص آگاه تعیین شده‌اند.

مشاهده جزئیات

شرطی خلاف واقع برای افزایش سهم تأثیر

استفاده از مشتقات سهم تأثیر برای نمونه‌ی خلاف واقع با کاربرد‌های poisonning، re-biassing، dataset summaries.

مشاهده جزئیات

پروژه‌های با محوریت توسعه‌ی مدل (زیربنا)

در فضای هوش‌مصنوعی با وضعیتی روبرو هستیم که اساساً کاربرد‌‌هایی طراحی و ارائه می‌شوند که جز شرکت‌‌های صاحب سرمایه‌‌های بزرگ امکان اجرا و بهره برداری از آن را ندارند و هم چنین تحقیقات نیز در خدمت این پروژه‌‌های بزرگ مقیاس قرار می‌گیرند. صاحبان سرمایه با انحصار در نهاد علم (مانند مراکز تحقیقاتی و جهت‌دهی)، صنعت هوش‌مصنوعی (مانند تولید سخت‌افزار پردازشگر)، منابع (مانند داده و زیربنای شبکه) و اقتصاد (مانند ارائه خدمات دستیار‌های هوشمند زبانی)، آحاد مردم را از تأثیرگذاری بر پیش‌برد و جهت‌دهی این ابزار محروم می‌کنند*. ما تلاش میکنیم تا این خلاء زیربنایی را با تحقیق و توسعه‌ی هوش‌مصنوعی دسترسی‌پذیر جبران کنیم. قدم اول ما در این زمینه توسعه‌ی مدل‌های توزیع‌شده بر روی شبکه است که با استفاده از امکانات اشتراکی بتوانند بازخورد خود را بهینه کنند.

تاثیر رویکرد سرمایه‌دارانه بر روی توسعه و کاربرد هوش‌مصنوعی

1. کالاسازی داده باعث رقابت در تجمیع و انحصار در اطلاعات شده تا حایی که داده را نفت جدید می‌خوانند.
2. شرکت‌های تولید کننده‌ی سخت‌افزار برای ضمانت رشد سود خود محققین را جهت‌دهی می‌کنند که فقط تحت زیربنای محاسباتی آنها توسعه‌ی نرم‌افزاری دهند. مثلاً شرکت NVIDIA با تحت تاثیر قرار دادن جامعه‌ی علمی و تولیدی و پشتیبانی، از فروش سخت‌افزارهای AMD، که معمولاً کارکرد بهتری دارد، جلوگیری می‌کند.
3. همچنین با هژمونیک کردن این نگاه، جامعه‌ی علمی به دنبال سخت‌افزارهای روز، که بزرگتر و سریعتر می‌شوند، می‌باشد. در این حین دیدگاه‌های دموکراتیک‌تر، مانند پردازش سیستم‌های توزیع‌شده که می‌تواند از سخت‌افزار‌های کوچک مردم همزمان بهره ببرد، از ادبیات تحقیقی حذف شده‌اند. در نتیجه راه‌کار‌های سرمایه‌دارانه تنها جهت پیشرفت و توسعه دیده می‌شود. البته روش‌های پردازش سیستم‌های توزیع‌شده به کل حذف نشده‌اند. بلکه آنها هم در جهت منافع شرکت‌های چند ملیتی توسعه داده می‌شوند.

با آمدن کرونا، شرکت NVIDIA از کاربران بازی‌های رایانه‌ای خواست تا سیستمی نصب کنند که به آنها اجازه می‌داد از سیستم کاربران برای توسعه‌ی هوش‌مصنوعی در جهت کشف دارو‌های جدید، استفاده کنند. در نمونه‌ای دیگر، شرکت گوگل از دستگاه‌های تلفن کاربران برای آموزش مدل‌های هوش‌مصنوعی خود بهره می‌برد و آن را باز به مشتریان جدید می‌فروشد. محصولی که با داده‌های مردم و سخت‌افزار آنها درست شده در جهت منافع مالی این شرکت استفاده می‌شود.

موازی‌سازی پردازش مدل‌ها روی شبکه

با استفاده از موازی سازی پردازش مدل‌ها روی شبکه میتوان از منابع معطل زیادی برای استنتاج (inference) مدل‌ها استفاده کرد که دیگر نیازی به مرکز گرا بودن این فرایند نباشد. مثلاَ شروع با مدل‌های Transformer.

مشاهده جزئیات

استفاده از منابع توزیع شده

پیاده سازی پلتفرمی برای توسعه آموزش مدل های توزیع شده بر روی شبکه ماند Keras، Torch، SparkML که آموزش در لحظه را در اختیار محققان و کاربران بگذارد.

مشاهده جزئیات

بالا بردن ظرفیت خطای ورودی مدل در شبکه متزلزل

بالا بردن توانایی تعمیم پذیری مناسب و ترکیب مناسب داده‌ها مثلاَ با استفاده‌ی روشی مشابه dropout.

مشاهده جزئیات

امنیت داده‌ها با پردازش توزیع‌شده

آنالیز انکشاف در داده‌های مدل‌های توزیع ‌شده روش شبکه و بررسی امکان بالا بردن سطح خصوصی داده‌ها، مانند روش Differential provacy.

مشاهده جزئیات

پروژه‌ها با محوریت کاربری

در جهت افزایش کارایی ابزار هوش مصنوعی برای انسان خلاق، ما تلاش می‌کنیم تا نحوه‌ی کاربری را بازبینی کنیم و مدل‌ها را به سمتی سوق دهیم تا موجب محدود‌سازی کاربر خلاق نشوند. این تلاش ها هم برای جهت‌دهی ابزار کنونی و هم برای ساخت مدل‌های جدید کارآمدتر انجام می‌شوند.

مدل‌های پرسشگر

ساخت مدل‌هایی که تسهیل‌کر خلق ایده‌ی نو توسط کاربر هستند و نه اینکه خود مولد باشند. چگونه کاربر راهنمایی شود بدون اینکه مدل جهت‌دهی خاصی را به او بدهد؟ و چگونه در خلق گمانه‌ی نو میتواند موثر باشد؟

مشاهده جزئیات

طراحی رفتار پرسشگر

مدل‌های مولد عموماً در غالب پاسخگو طراحی و استفاده می‌شوند. این امر می‌تواند باعث محدودیت بر خلاقیت انسان در تولید محتوی نو و جدید شود. در این پروژه ما به دنبال طراحی رفتار‌های کاربر (مانند prompt engineering) با محوریت مدل پرسشگر در مقابل انسان پاسخگو هستیم.

مشاهده جزئیات

تحقیقات در زمینه‌‌ی حکمرانی

یکی از اهداف بلند مدت ما تولید هوش‌مصنوعی با کاربرد تسهیل روابط شناختی در گروه و جامعه است. ما دنبال پاسخ به این پرسش هستیم که چه ابزاری بهتر میتواند این روابط را مدل سازی و بهینه کند و ما چگونه میتوانیم آن را بسازیم.

حکمرانی با هوش‌مصنوعی

ابزار هوش‌مصنوعی در کدم امور میتواند به کمک مجری و قانون‌گذار بیاید؟

مشاهده جزئیات

حکمرانی برای هوش‌مصنوعی

چه ملاحضاتی در زمینه‌ی قانون‌گذاری باید در نظر گرفته شوند؟

معیارهای کلی:

۱. گسترش اختیار و آگاهی فردی و اجتماعی
۲. عبور از انحصار زیرساختی و افزایش حاکمیت انسان بر سرمایه
۳. افزایش دگرخواهی و تقابل با فردگرایی و منفعت طلبی

مشاهده جزئیات