2

خطر ایجاد کارخانه تولید مقاله با هوش مصنوعی!

  • کد خبر : 86411
  • ۰۶ آذر ۱۴۰۳ - ۱۵:۰۶
خطر ایجاد کارخانه تولید مقاله با هوش مصنوعی!

یک پژوهشگر مطالعات علم و فناوری با تشریح اصول و ضوابط جهانی استفاده از هوش مصنوعی در تولیدات علمی گفت: سوگیری و تبعیض، عدم شفافیت و تصاویر جعلی برخی نگرانی ها در این حوزه است.

به گزارش تبریزمن به نقل از خبرگزاری مهر، دکتر زهره زاهدی؛ عضو هیئت‌علمی و پژوهشگر گروه علم اطلاعات و دانش شناسی مرکز مطالعات علم و فناوری اطلاعات دانشگاه خلیج فارس و دانشگاه لایدن با اشاره به جوایز نوبل فیزیک و شیمی سال جاری گفت: اهدای جایزه نوبل شیمی به پیش‌بینی ساختار پروتئین‌ها با استفاده از هوش مصنوعی و نوبل فیزیک به یادگیری ماشین و شبکه‌های عصبی اهمیت استفاده از هوش مصنوعی را در پژوهش‌های علمی جدید نشان می‌دهد.

وی خاطر نشان کرد: در سال‌های اخیر استفاده از هوش مصنوعی در انتشارات علمی روندی روبه رشد داشته و در حوزه علوم کامپیوتر، پزشکی و زیست‌شناسی از هوش مصنوعی بیشتر استفاده شده است. ۶۴ درصد از پژوهشگران حوزه علوم کامپیوتر از ۲۰۰۰ تا ۲۰۲۱ از هوش مصنوعی در انتشارات خود استفاده کردند.

زاهدی با اشاره به نظرسنجی «نیچر» از ۱۶۰۰ پژوهشگر درباره کاربرد هوش مصنوعی در پژوهش گفت: در این نظرسنجی بیش از ۵۰ درصد از پاسخگویان به اهمیت و ضرورت استفاده از هوش مصنوعی در پژوهش‌ها اشاره کردند. نگرانی‌هایی نیز از جمله خطرات انتشار اطلاعات نادرست، افزایش احتمال تقلب و دشورای در تشخیص آن‌ها وجود داشت.

به گفته این پژوهشگر ابزارهایی مثل Elsevier Scopus AI، Clarivate Analytics AI Research Asistant، Semantic Scholar و Open Knowledge Map با ادغام ابزارهای هوش مصنوعی در پایگاه‌های اطلاعاتی به پژوهشگران کمک می‌کنند.

وی با بیان این‌که دستورالعمل‌های مختلفی در دنیا برای کاربرد هوش مصنوعی در پژوهش تدوین شده است، گفت: اصول مسئولانه الزویر، رویکرد اتحادیه اروپا و دستورالعمل یونسکو از جمله دستورالعمل‌هایی هستند که برای استفاده از هوش مصنوعی در آموزش، پژوهش و سیاست‌گذاری تدوین شده‌اند.

اصول الزویر در رابطه با استفاده از هوش مصنوعی

پژوهشگر دانشگاه لایدن در مورد اصول الزویر در رابطه با هوش مصنوعی توضیح داد: الزویر در کنار ارائه Scopus AI، اصول ۵ گانه را تدوین کرده تا اطمینان ایجاد شود که هوش مصنوعی به شکلی منصفانه، شفاف، پاسخگو، ایمن طراحی و به کار گرفته شده است.

وی ادامه داد: این اصول شامل در نظر گرفتن تأثیر واقعی راه‌حل‌ها بر زندگی افراد، اقدام برای جلوگیری از ایجاد یا تقویت سوگیری‌های ناعادلانه، توضیح‌پذیری در خصوص راه‌حل‌ها، مسئولیت‌پذیری از طریق نظارت انسانی و احترام به حریم خصوصی و حاکمیت قوی داده‌ها است.

زاهدی در مورد رویکرد اتحادیه اروپا در رابطه با هوش مصنوعی در آموزش و پژوهش گفت: هدف اتحادیه اروپا در موضوع هوش مصنوعی برای تسریع در پذیرش مسئولانه و به موقع هوش مصنوعی است. این گزارش که در مارچ ۲۰۲۴ ارائه شده یک مشاوره علمی به کمیسیون اروپا است که شامل مباحث تقویت نوآوری و پیشرفت علمی در اتحادیه اروپا، تقویت موقعیت علمی و فناوری اتحادیه اروپا، پاسخ به چالش‌ها و ایجاد چارچوب‌های مسئولانه، پیشنهاد راهکارهای کاربردی برای ادغام هوش مصنوعی در علوم و ایجاد زیرساخت‌ها و آموزش برای پذیرش هوش مصنوعی است.

عضو هیئت‌علمی مرکز مطالعات علم و فناوری اطلاعات دانشگاه خلیج فارس در مورد دستورالعمل یونسکو در استفاده از هوش مصنوعی در آموزش و پژوهش توضیح داد: این دستورالعمل به استفاده مسئولانه، اخلاقی و نوآورانه از هوش مصنوعی در پژوهش‌های علمی تاکید دارد و شامل ۱۰ اصل است.

خطر ایجاد کارخانه تولید مقاله با هوش مصنوعی!

وی با اشاره به مزایای استفاده از هوش مصنوعی در پژوهش گفت: هوش مصنوعی می‌تواند فرآیندهای ارزیابی، ویرایش و انتشار مقالات را سرعت بخشد و یکپارچگی آن‌ها را بهبود دهد و این اجتناب ناپذیر است. می‌تواند از طریق شناسایی سرقت ادبی، تضمین اصالت مقالات، کاهش زمان داوری و …سبب بهبود و ارتقای فرآیند داوری مقالات علمی شود. همچنین با ابزارهایی می‌تواند تصاویر مقالات را بررسی کرده و از دستکاری تصاویر جلوگیری کند و در نهایت می‌تواند در تولید متون و تصاویر علمی به پژوهشگران کمک کند.

به گفته زاهدی هوش مصنوعی در کنار مزایایی که دارد با چالش‌ها و مسائل اخلاقی هم روبرو است. مسائلی از جمله سوگیری و تبعیض، عدم شفافیت، سوءاستفاده و تصاویر جعلی و نگرانی‌های اخلاقی و حقوقی در این زمینه وجود دارد. همچنین کارخانه‌های تولید مقاله نیز یکی از چالش‌های جدی است.

وی پیشنهاداتی در زمینه پیشگیری از چالش‌های هوش مصنوعی ارائه کرد و گفت: مواردی مثل وضع دستورالعمل‌های اخلاقی توسط ناشران، توسعه ابزارهای پیشرفته برای شناسایی و بررسی محتوای جعلی از جمله تصاویر، همکاری سازمان‌ها، ناشران و نهادهای علمی برای ایجاد استانداردهای یکپارچه در استفاده از هوش مصنوعی می‌تواند در این زمینه کمک کند.

این پژوهشگر خاطر نشان کرد: تأسیس شورای ملی هوش مصنوعی (کارگروه هوش مصنوعی) نیز جهت تدوین سیاست‌هایی برای کاربرد هوش مصنوعی در انتشار علمی ضروری است. در ایران سازمان‌ها و کارگروه‌هایی که در زمینه هوش مصنوعی راه‌اندازی شده‌اند می‌توانند در این زمینه نقش‌آفرینی کنند. همچنین در این زمینه نیازمند استفاده مسئولانه هستیم که سواد هوش مصنوعی و آگاهی از مسائل اخلاقی می‌تواند در این زمینه کمک کند.

لینک کوتاه : https://tabrizeman.ir/?p=86411
  • ارسال توسط :
  • 18 بازدید
  • دیدگاه‌ها برای خطر ایجاد کارخانه تولید مقاله با هوش مصنوعی! بسته هستند

ثبت دیدگاه

مجموع دیدگاهها : 0در انتظار بررسی : 0انتشار یافته : ۰

دیدگاهها بسته است.