# موازی‌سازی پردازش مدل‌ها

## ویژگی ها

### عدم وابستگی به تجمیع سخت افزار

با توجه به گلوگاه شدن سخت افزار در دنیای کنونی و تحریم کشور های فاقد وجود این تکنولوژی خروج از زمین بازی طراحی شده توسط صاحبان این فناوری این ضرورت را ایجاب میکند

### عدم وابستگی به داده های از پیش اموزش دیده مدل

مسیله مهمی که در مدل های زبانی وجود دارد موضوع نبود امکان بروز رسانی دانش نسبت به گذشته است. این مدل این چالش را حل کرده است.

### توزیع فرایند استنتاج

ارمان ما این است که هر فرد بتواند به اندازه توان خود در فرایند کار های اجتماعی و تعاون در حد توان خود تصرف کند. در اینجا هر موجودیتی در حدی که میتواند میتواند در کارکرد این مدل دخیل باشد.

## گام‌نمای پروژه

##### موازی‌سازی پردازش مدل‌ها روی شبکه

با استفاده از موازی سازی پردازش مدل‌ها روی شبکه میتوان از منابع (inference) مدل‌ها استفاده کرد که دیگر نیازی به مرکز گرا بودن این فرایند نباشد. مثلاَ شروع با مدل‌های Transformer.

وضعیت پیشرفت
۸۰٪

- موازی سازی پردازش مدل ها‌ روی شبکه
- موازی سازی پردازش مدل ها‌ روی اندروید

- مدل‌های مولد
- سرور هماهنگ کننده برای شبکه‌ی موبایلی
- مدل‌های بسیار کوچک زبانی

آدرس گیت هاب

##### استفاده از منابع توزیع شده

پیاده سازی پلتفرمی برای توسعه آموزش مدل های توزیع شده بر روی شبکه ماند Keras، Torch، SparkML که آموزش در لحظه را در اختیار محققان و کاربران بگذارد.

وضعیت پیشرفت
۰٪

- پیاده سازی پلتفرمی برای توسعه آموزش مدل های توزیع شده

##### بالا بردن ظرفیت خطای ورودی مدل در شبکه متزلزل

بالا بردن توانایی تعمیم پذیری مناسب و ترکیب مناسب داده‌ها مثلاَ با استفاده‌ی روشی مشابه dropout.

وضعیت پیشرفت
۰٪

- ترکیب مناسب داده‌ها
- بالا بردن توانایی تعمیم پذیری

##### امنیت داده‌ها با پردازش توزیع‌شده

آنالیز انکشاف در داده‌های مدل‌های توزیع ‌شده روش شبکه و بررسی امکان بالا بردن سطح خصوصی داده‌ها، مانند روش Differential privacy.

وضعیت پیشرفت
۰٪

- استفاده از روش Differential privacy برای داده‌های متنی

## دورنمای پروژه

ما در آینده مدل‌هایی خواهیم ساخت که نیاز کمتری به منابع متمرکز داشته باشند. مثلا نمونه‌ی کنونی ما یک مدل زبانی‌ است که بر روی شبکه‌ای از چند تلفن هوشمند اجرا میشود و نیاز به سخت افزار قوی و متمرکز را کم می‌کند.

## ایا میخواهید در توسعه این پروژه مشارکت کنید؟

منتظریم

ارتباط با ما