متخصصین از سطح کاربری به سمت مالکیت مدل هوش مصنوعی حرکت کنند

به گزارش سراج24؛ علی طایی‌زاده، عضو هیئت علمی دانشگاه قم در سلسله نشست‌های آینده پژوهی با محوریت «هوش مصنوعی و الزامات مشارکت اجتماعی» در گفت‌وگویی اظهار کرد: دموکراتایز در حوزه هوش مصنوعی به معنای توسعه امکان ایجاد و بهره برداری از مدل‌های هوش مصنوعی بر طیف وسیعی از رشته‌های تخصصی است، نقطه مقابل آن محدود کردن طرح ریزی و ایجاد مدل به شرکت‌های فناوری اطلاعات و واگذاری نقش کاربری صرف به نقش متخصصین دیگر رشته‌ها در هوش مصنوعی است. این نوع نگاه به دلیل اینکه در تولید نرم افزار نیز همین توزیع نقش حاکم بوده است، با اوج گیری هوش مصنوعی، تقسیم نقش‌ها در این تکنولوژی نیز مانند قاعده سابق حاکم بر نرم افزار بود. ولی پس از مدتی، تفاوت هوش مصنوعی با نرم افزارهای الگوریتم محور روشن شد، استراتژیک بودن مشارکت متخصصین دیگر رشته ها در راهبری و ایجاد مدل‌های هوش مصنوعی مورد نیاز خود به مرور، دمکراتایز کردن هوش مصنوعی یا همان تسری راهبری و ایجاد مدل به طیف وسیع تری از رشته‌های علمی و فنی مورد تاکید قرار گرفته است.

وی ادامه داد: در خصوص دلایل ضرورت ورود متخصصین رشته‌های متنوع به درون مدل‌های هوش مصنوعی، گفت: دلیل اول افزایش پیچیدگی مدل‌هاست؛ مدل‌های هوش مصنوعی (مثل شبکه‌های عصبی عمیق) رفتار بسیار پیچیده‌ای دارند که حتی توسعه‌دهندگان‌شان هم دقیقاً نمی‌توانند توضیح دهند چرا یک خروجی خاص تولید شده که به این مسئله‌ جعبه سیاه می‌گویند. دلیل دوم تصمیمات خودکار و با تاثیر زیاد است؛ امروزه الگوریتم‌های AI در تصمیماتی مثل اعطای وام، پذیرش دانشگاهی، تشخیص‌های پزشکی یا حتی تعیین اولویت درمان دخالت دارند، یعنی اشتباه یا سوگیری مدل می‌تواند زندگی افراد را مستقیماً تحت تاثیر قرار دهد.

طایی‌زاده خطر سوگیری و تبعیض را از دیگر دلایل ضرورت ورود متخصصین رشته‌های متنوع به درون مدل‌های هوش مصنوعی دانست و گفت: هوش مصنوعی اگر روی داده‌های نامتوازن یا مغرضانه آموزش ببیند، می‌تواند ناعادلانه عمل کند؛ بنابراین شهروندان حق دارند بدانند یک الگوریتم بر چه اساسی قضاوت می‌کند؛ دلیل دیگر استانداردهای جدید حقوقی و اخلاقی است، سازمان‌هایی مثل اتحادیه اروپا، چارچوب‌های جدیدی تعریف کرده‌اند که تاکید می‌کنند مدل‌های هوش مصنوعی که روی انسان‌ها تاثیر می‌گذارند باید توضیح پذیر و قابل بازبینی باشند. بنابراین، لزوم خارج کردن هوش مصنوعی از صرف فنی و تخصصی بودن به سمت عمومی کردن آن محرز است.  

طایی زاده اضافه کرد: ممکن است در فرآیند دموکراتایز کردن هوش مصنوعی در انواع رشته‌ها ترس حاصل از عدم اشراف به جزئیات فنی وجود داشته باشد که طبیعی است اما نباید اجازه دهیم این ترس باعث عقب ماندن از پیشرفت‌ مدل‌های تخصصی شود، اگر در گذشته استادی داخل آزمایشگاه نقشه‌های معماری را خود طراحی می‌کرد اکنون باید آن استاد بتواند از ابزار هوش مصنوعی در تدریس و نقشه‌کشی خود استفاده کند و مدل خوش مصنوعی خود را بر اساس داده های سالیان گذشته‌اش داشته باشد.

وی ادامه داد: در برخی حوزه‌ها استفاده از هوش مصنوعی، اجتناب ناپذیر است و وظیفه رگولاتوری، اولویت بندی، تشویق و فرهنگ سازی استفاده از هوش مصنوعی به عهده حاکمیت و نهادهای مربوط در این زمینه است. باز ماندن فضای توسعه هوش مصنوعی در کشور بدون هدایت اولویت‌ها، ایجاد زیرساخت‌های مشترک و ابری، و ایجاد مکانیسم‌های حفاظت از داده، منجر به تحمیل هزینه زیاد و آورده کم برای کشور خواهد شد. تاکید بر داده محوری و ایجاد انباره‌های داده قابل استفاده در مدل‌های هوش مصنوعی که متناسب با نیازهای هوشمند سازی کشور باشند بدون دخالت رگولاتوری داخلی و حاکمیت ممکن نخواهد بود.

عضو هیئت علمی دانشگاه قم با اشاره به اینکه تا امروز در حوزه‌های مختلف گام‌هایی برای دموکراتایز کردن هوش مصنوعی برداشته شده، و هر بخش نگاه و اقدامات مخصوص خودش را داشته است، اضافه کرد: به عنوان مثال در دولت هوشمند، بحث دموکراتایز هوش مصنوعی بیشتر روی داده‌های باز، شفافیت الگوریتمی(فهمیدن چرایی یک تصمیم دولتی مثلا ارائه دلایل مشخص موافقت یا رد درخواست وام) و درگیر کردن شهروندان در تصمیم‌سازی‌های مبتنی بر هوش مصنوعی متمرکز شده است. دولت‌ها تلاش کرده‌اند زیرساخت‌هایی بسازند که همه افراد جامعه بتوانند به داده‌های دولتی و ابزارهای تحلیلی دسترسی داشته باشند.

وی ادامه داد: شهر آمستردام، سامانه «ثبت شفاف الگوریتم‌ها» را راه‌اندازی کرده است، در این سامانه، شهروندان می‌توانند ببینند چه الگوریتم‌هایی در شهرداری استفاده می‌شود، مثلاً برای تصمیم‌گیری درباره اعطای یارانه، ترافیک شهری یا اولویت‌بندی خدمات اجتماعی، مهم‌تر اینکه اگر شهروندان احساس کنند یک الگوریتم تبعیض‌آمیز یا ناعادلانه عمل کرده، می‌توانند اعتراض رسمی ثبت کنند یا حتی در جلسات باز برای بررسی این الگوریتم‌ها شرکت کنند که تحولی در شفافیت نسبت به گذشته به شمار می‌رود.

طایی زاده دموکراتایز کردن هوش مصنوعی در امر آموزش را مورد توجه قرار داد و گفت: هدف این بوده که استفاده از هوش مصنوعی برای معلمان و دانش‌آموزان آسان شود، با پروژه‌هایی مثل  AI۴ALL که آموزش‌های تخصصی ساده‌سازی شده را برای همه افراد، نه فقط دانشگاه‌های سطح بالا فراهم می‌کند؛ همچنین در صنعت و کسب‌وکار، شرکت‌هایی مثل مایکروسافت، آمازون و گوگل ابزارهایی مثل AutoML را ساختند که افراد بدون تخصص عمیق در یادگیری ماشین، بتوانند مدل‌های سفارشی خود را بسازند. در کشاورزی نیز دموکراتایز کردن هوش مصنوعی باعث شده کشاورزان کوچک بتوانند از طریق اپلیکیشن‌ها و سرویس‌های ابری پیش‌بینی محصول و بیماری‌های گیاهی را انجام دهند، چیزی که قبلاً فقط در دسترس شرکت‌های بزرگ بود.

گام‌های دمکراتایز کردن هوش مصنوعی

وی بیان کرد: فرآیند دموکراتایز کردن هوش مصنوعی، با هدف توانمندسازی متخصصان رشته‌های مختلف، برای توسعه مدل‌های اختصاصی خود، در چند محور دنبال می‌شود: نخست، دسترسی آزاد و گسترده به داده‌ها، ابزارهای توسعه و منابع آموزشی باید فراهم شود تا موانع ایجاد مدل کاهش یابد؛ دوم، آموزش‌های تخصصی و کاربردی باید به گونه‌ای طراحی شود که متخصصان بتوانند بدون وابستگی به شرکت‌های فناوری، مدل‌های متناسب با نیازهای حوزه خود را توسعه دهند؛ سوم، لازم است اصول شفافیت در عملکرد مدل‌ها و قابلیت توضیح‌پذیری تصمیمات رعایت شود تا اعتماد کاربران و جامعه حفظ شود؛ چهارم، قوانین و مقررات مشخص و الزام‌آور باید تدوین شود تا توسعه و استفاده از هوش مصنوعی در چارچوب حقوقی روشن و با رعایت ملاحظات اخلاقی صورت گیرد؛ و نهایتاً، تقویت همکاری‌های بین‌رشته‌ای و بین‌المللی می‌تواند مسیر توسعه پایدار و عادلانه این فناوری را هموار کند.

این استاد دانشگاه اظهار کرد: از سوی دیگر از دید ملی نیز ضرورت توسعه مدل‌های بومی آموزش دیده با داده‌های بومی به عنوان پیش‌نیاز و الزام ضرورت دارد. این الزام برای عدم وابستگی در برخی رشته‌ها مانند پزشکی، کشاورزی و فرهنگ اجتناب ناپذیر و در مدل‌هایی مانند ترجمه، تولید متن که خصوصیت کمتری در اقلیم یک کشور دارا هستند، با درجه کمتری قابل اولویت بندی است. اگر مدل و الگویی در اغلب کشورها موفق باشد به این معنا نیست که حتما در کشور ما هم موفق خواهد بود، باید توجه داشت فرهنگ بومی فناوری کشورها با یکدیگر متفاوت است و موفقیت به عوامل متعدد فنی و فرهنگی از جمله شیوه توسعه فناوری در یک کشور از گذشته تاکنون وابسته است.

وی افزود: ایران با نداشتن مدل اختصاصی خود اکنون به عنوان استفاده کننده نهایی از هوش مصنوعی است اما به دلیل داشتن محدودیت در انتقال داده‌های ملی به سرورهای خارج از کشور، فعلا بر روی مدل غیربومی یکسری توسعه‌هایی با آموزش توسط داده‌های اختصاصی صورت می‌گیرد و این مدل توسعه یافته به حدی ارزشمند می‌شود که حتی گاها برای یک نهاد سودآور است و می‌تواند مدل خود را به عنوان یک دارایی به فروش برساند، مانند مدل رفتاری خریداران فضای مجازی در ایران.

این استاد دانشگاه بیان کرد: بسیاری از سامانه‌های نرم افزاری فعلی، مانند CRM ها، ERP و حتی پیام رسان‌ها جنبه ابزاری دارند اما هوش مصنوعی به جهت داده محور بودن آن جنبه راهبردی دارد؛ به همین دلیل در زمینه اخلاق و حقوق هوش مصنوعی مدل خاص کشور بر اساس قوانین و عرف حاکم باید ابتدا تبیین و سپس توسعه یابد. خطوط قرمز ورود با توجه به این قانون می‌توان دریافت که به یک الگوی غیربومی نباید داده‌های سازمانی، شخصی، سلامت یک کشور داده شود؛ زیرا قدرت سوء استفاده از این داده‌ها وجود دارد.