# هوش‌مصنوعی اجتماعی

## کار گروهی برای قدرت بخشی به اراده‌ی عموم انسانها

ما گروهی هستیم متشکل از متخصصین با پیش زمینه‌های متنوع که تلاش میکنیم ایده‌های نوآورانه در توسعه‌ی ابزارهای هوش‌مصنوعی برای تقویت خلاقیت انسان و شکل‌گیری جامعه‌ی مبتنی بر محبت را معرفی کنیم.

## پروژه‌های با محوریت توسعه‌ی مدل (شناخت)

به نظر می‌رسد این فناوری برای تمدن سرمایه سالار از این جهت حیاتی است که در جهان آینده تسخیر سرمایه بیش از آنچه که از مجرای تسخیر سرزمین‌‌ها بگذرد، از مسیر تصرف شناخت افراد می‌گذرد و شاهد این ادعا نیز رونق مطالعات مربوط به علوم شناختی در امروز است و هوش‌مصنوعی یکی یا مهمترین ابزار شناختی در حال و یا آینده‌ای نه چندان دور خواهد بود. هرچند که تصرف در شناخت افراد می‌تواند در راستای اسارت انسان در دست انسان استیلاگر باشد؛ اما روی دیگر سکه، آن است که اگر این ابزار به نحوی منجر به شکوفایی شناخت و خلاقیت انسان شود، می‌تواند در راستای رهایی انسان از بردگی در نظام سرمایه‌داری مورد استفاده قرار گیرد. در قدم اول، ما تلاش میکنیم تا آگاهی کاربر را تا حد ممکن در فرایند استنتاج مدل‌ها بیشتر کنیم. باتوجه به آگاهی، در مرحله بعدی تلاش ما برای بالا بردن سطح اختیار کاربر در اعمال تغییر و به روز رسانی فرایند استنتاج مدل است.

#### هوش‌مصنوعی توضیح‌پذیر بالفعل

یکی از اهداف ما افزایش اختیار و شناخت انسان در استفاده از ابزار هوش‌مصنوعی است.

هدف ما تولید ابزار هوش‌مصنوعی است که بتوان داده‌ی تاثیر گذار در فرایند استنتاج را دید و آنها را بدون نیاز به آموزش مجدد هوش‌مصنوعی عوض کرد.

نمونه‌ی اولیه که ما ساختیم با ترکیبی از یادگیری عمیق و یادگیری تنبل به ما اجازه‌ی دخالت در داده‌های تاثیرگذار را میدهد. میتوانید نمونه‌ی کد آن را در این صفحه ببینید و آزمایش کنید.

بیشتر بخوانید

#### توضیح‌پذیری بالفعل با داده‌های خوشه‌ای

ترکیب مدل‌های RAG با مدل‌های توضیح‌پذیر بالفعل برای سرعت و شخصی‌سازی.

بیشتر بخوانید

#### توضیح‌پذیری بالفعل با جستجوی پیشرفته

استفاده از الگوریتم‌های جستجوی سریع (مانند KNN) در آموزش و استنتاج با در نظر گرفتن سهم اهمیت (و نه لزوماً شباهت و نزدیکی).

بیشتر بخوانید

#### مدل‌های عمیق با یادگیری تنبل

پیاده‌سازی یادگیری تنبل با شبکه‌های عصبی عمیق و جداسازی اطلاعات از پردازش شبکه.

بیشتر بخوانید

#### توضیح بالفعل بر روی ویژگی‌های ورودی

تبدیل مدل‌های بالفعل به مدل‌هایی با قابلیت تشخیص و تغییر در سطح تاثیر ویژگی‌های داده‌ی ورودی. مثلاَ با الهام گیری از مدل ViT بر روی داده‌های تصویری.

بیشتر بخوانید

#### شرطی خلاف واقع برای افزایش سهم تأثیر

استفاده از مشتقات سهم تأثیر برای نمونه‌ی خلاف واقع با کاربرد‌های poisonning، re-biassing، dataset summaries.

بیشتر بخوانید

#### کشف روابط در پایگاه داده به وسیله‌ی مدل

پیدا کردن روابط در پایگاه داده؛ مثلاَ استفاده از مدل زبانی برای کشف رابطه‌ی استناد بین داده‌ها.

#### خلاصه سازی شرطی در پایگاه داده

ایا میتوان به صورت سلسله وار از مدل‌های مولد استفاده کرد و در هر مرحله با ترکیب خروجی با داده‌های دیگر خلاصه سازی نمود؟‍

#### تخمین ارزش‌گذاری متن برا اساس معیار

سنجش میزان هماهنگی و شباهت متون با متن‌های معیار که از جانب متخصص آگاه تعیین شده‌اند.

## پروژه‌های با محوریت توسعه‌ی مدل (زیربنا)

در فضای هوش‌مصنوعی با وضعیتی روبرو هستیم که اساساً کاربرد‌‌هایی طراحی و ارائه می‌شوند که جز شرکت‌‌های صاحب سرمایه‌‌های بزرگ امکان اجرا و بهره برداری از آن را ندارند و هم چنین تحقیقات نیز در خدمت این پروژه‌‌های بزرگ مقیاس قرار می‌گیرند. صاحبان سرمایه با انحصار در نهاد علم (مانند مراکز تحقیقاتی و جهت‌دهی)، صنعت هوش‌مصنوعی (مانند تولید سخت‌افزار پردازشگر)، منابع (مانند داده و زیربنای شبکه) و اقتصاد (مانند ارائه خدمات دستیار‌های هوشمند زبانی)، آحاد مردم را از تأثیرگذاری بر پیش‌برد و جهت‌دهی این ابزار محروم می‌کنند*. ما تلاش میکنیم تا این خلاء زیربنایی را با تحقیق و توسعه‌ی هوش‌مصنوعی دسترسی‌پذیر جبران کنیم. قدم اول ما در این زمینه توسعه‌ی مدل‌های توزیع‌شده بر روی شبکه است که با استفاده از امکانات اشتراکی بتوانند بازخورد خود را بهینه کنند.

*نمونه‌هایی از تاثیر رویکرید سرمایه‌دارانه بر روی توسعه و کاربرد هوش‌مصنوعی: ۱ کالاسازی داده باعث رقابت در تجمیع و انحصار در اطلاعات شده تا حایی که داده را نفت جدید می‌خوانند. ۲ شرکت‌های تولید کننده‌ی سخت‌افزار برای ضمانت رشد سود خود محققین را جهت‌دهی میکنند که فقط تحت زیربنای محاسباتی آنها توسعه‌ی نرم‌افزاری دهند. مثلا شرکت NVIDIA با تحت تاثیر قرار دادن جامعه‌ی علمی و تولیدی و پشتیبانی، از فروش سخت‌افزارهای AMD، که معمولاً کارکرد بهتری دارد، جلوگیری می‌کند. ۳ همچنین با هژمونیک کردن این نگاه، جامعه‌ی علمی به دنبال سخت‌افزارهای روز، که بزرگتر و سریعتر می‌شوند، می‌باشد. در این حین دیدگاه‌های دموکراتیک تر، مانند پردازش سیستم‌های توزیع‌شده که می‌تواند از سخت‌افزار‌های کوچک مردم همزمان بهره ببرد، از ادبیات تحقیقی حذف شده‌اند. در نتیجه راه‌کار‌های سرمایه‌دارانه تنها جهت پیشرفت و توسعه دیده می‌شود. البته روش‌های پردازش سیستم‌های توزیع‌شده به کل حذف نشده‌اند. بلکه آنها هم در جهت منافع شرکت‌های چند ملیتی توسعه داده می‌شوند. با آمدن کرونا شرکت NVIDIA از کاربران بازی‌های رایانه‌ای خواست تا سیستمی نصب کنند که به آنها اجازه می‌داد از سیستم کاربران برای توسعه‌ی هوش‌مصنوعی در جهت کشف دارو‌های جدید، استفاده کنند. در نمونه‌ای دیگر شرکت گوگل از دستگاه‌های تلفن کاربران برای آموزش مدل‌های هوش‌مصنوعی خود بهره می‌برد و آن را باز به مشتریان جدید می‌فروشد. محصولی که با داده‌های مردم و سخت‌افزار آنها درست شده در جهت منافع مالی این شرکت استقاده می‌شود.

#### موازی‌سازی پردازش مدل‌ها روی شبکه

با استفاده از موازی سازی پردازش مدل‌ها روی شبکه میتوان از منابع معطل زیادی برای استنتاج (inference) مدل‌ها استفاده کرد که دیگر نیازی به مرکز گرا بودن این فرایند نباشد. مثلاَ شروع با مدل‌های Transformer.

#### استنتاج موازی بهینه روی شبکه

رسیدن به استنتاج مدل‌های موازی شده به ما کمک میکند علی رغم داشتن مدل های خرد و کوچک در شبکه، استنتاج های مناسب و سریع با استفاده از ترکیب چند مدل را رقم زد.

پردازش همزمان و موازی مدل‌ها روی شبکه زمان محاسبات را کاهش داده و مدل های طراحی شده را بهینه و کاربر پسند خواهد کرد.

بیشتر بخوانید

#### استفاده از منابع توزیع شده

پیاده سازی پلتفرمی برای توسعه آموزش مدل های توزیع شده بر روی شبکه ماند Keras، Torch، SparkML که آموزش در لحظه را در اختیار محققان و کاربران بگذارد.

بیشتر بخوانید

#### بالا بردن ظرفیت خطای ورودی مدل در شبکه متزلزل

بالا بردن توانایی تعمیم پذیری مناسب و ترکیب مناسب داده‌ها مثلاَ با استفاده‌ی روشی مشابه dropout.

بیشتر بخوانید

#### امنیت داده‌ها با پردازش توزیع‌شده

آنالیز انکشاف در داده‌های مدل‌های توزیع ‌شده روش شبکه و بررسی امکان بالا بردن سطح خصوصی داده‌ها، مانند روش Differential provacy.

بیشتر بخوانید

## پروژه‌ها با محوریت کاربری

در جهت افزایش کارایی ابزار هوش مصنوعی برای انسان خلاق، ما تلاش می‌کنیم تا نحوه‌ی کاربری را بازبینی کنیم و مدل‌ها را به سمتی سوق دهیم تا موجب محدود‌سازی کاربر خلاق نشوند. این تلاش ها هم برای جهت‌دهی ابزار کنونی و هم برای ساخت مدل‌های جدید کارآمدتر انجام می‌شوند.

#### طراحی رفتار پرسشگر

مدل‌های مولد عموماً در غالب پاسخگو طراحی و استفاده می‌شوند. این امر می‌تواند باعث محدودیت بر خلاقیت انسان در تولید محتوی نو و جدید شود. در این پروژه ما به دنبال طراحی رفتار‌های کاربر (مانند prompt engineering) با محوریت مدل پرسشگر در مقابل انسان پاسخگو هستیم.

بیشتر بخوانید

#### مدل‌های پرسشگر

ساخت مدل‌هایی که تسهیل‌کر خلق ایده‌ی نو توسط کاربر هستند و نه اینکه خود مولد باشند. چگونه کاربر راهنمایی شود بدون اینکه مدل جهت‌دهی خاصی را به او بدهد؟ و چگونه در خلق گمانه‌ی نو میتواند موثر باشد؟

بیشتر بخوانید

## تحقیقات در زمینه‌‌ی حکمرانی

یکی از اهداف بلند مدت ما تولید هوش‌مصنوعی با کاربرد تسهیل روابط شناختی در گروه و جامعه است. ما دنبال پاسخ به این پرسش هستیم که چه ابزاری بهتر میتواند این روابط را مدل سازی و بهینه کند و ما چگونه میتوانیم آن را بسازیم.

#### حکمرانی با هوش‌مصنوعی

ابزار هوش‌مصنوعی در کدم امور میتواند به کمک مجری و قانون‌گذار بیاید؟

بیشتر بخوانید

#### حکمرانی برای هوش‌مصنوعی

چه ملاحضاتی در زمینه‌ی قانون‌گذاری باید در نظر گرفته شوند؟

معیارهای کلی:

۱. گسترش اختیار و آگاهی فردی و اجتماعی
۲. عبور از انحصار زیرساختی و افزایش حاکمیت انسان بر سرمایه
۳. افزایش دگرخواهی و تقابل با فردگرایی و منفعت طلبی

بیشتر بخوانید

###### دستاوردها

- همه دستاوردها
- توضیح پذیری
- مدل‌های مولد
- تحلیل متن

توضیح‌پذیری

#### مدل بالفعل

توزیع‌پذیری

#### مدل RAG با پردازش موازی

مدل‌های پرسشگر

#### مهندسی پرامپت برای سوگیری مدل به پرسشگری بجای پاسخ‌دهی

ارزش‌گذاری داده

#### ارزش‌گذاری با استفاده از ChatGPT API

توزیع‌پذیری

#### مدل RAG با پردازش موازی

###### رویدادها

## سمینار های برگزار شده

- دانشگاه امیر‌کبیر

  #### بومی‌سازی هوش‌مصنوعی: توضیح‌پذیری و توزیع‌پذیری

- زمان:

  ###### ۷ اذر ۱۴۰۳

- مدت زمان ارائه:

  ###### ۲ ساعت

- فایل ارائه:

  ###### https://github.com/aliakbar1881/IpsofactoModel/

######

##

- دانشگاه امیر‌کبیر

  #### هوش‌مصنوعی و استنتاج کارتوه‌ای

- زمان:

  ###### ۶ بهمن ۱۴۰۳

- مدت زمان ارائه:

  ###### ۱ ساعت

- فایل ارائه:

  ###### https://github.com/aliakbar1881/IpsofactoModel/

######

##

- دانشگاه علم و صنعت

  #### توضیح‌پذیری بالفعل

- زمان:

  ###### ۸ بهمن ۱۴۰۳

- مدت زمان ارائه:

  ###### ۱ ساعت

- فایل ارائه:

  ###### https://sociai.ir/assets/presentation_2025_ElmoSanat_IFXAI.pdf

### ارتباط با ما

#####

##### برای همکاری و یا فرستادن نظرات خود لطفا با آدرس siavash.bigdeli [at] gmail تماس بگیرید.

#####