## هوش مصنوعی در مقابل علم: شناسایی مقالات جعلی با الگوریتم xFakeSci
امروزه با پیشرفت روزافزون هوش مصنوعی، نگرانی‌های جدی در مورد تولید مقالات علمی جعلی توسط این فناوری وجود دارد. این نگرانی به ویژه در زمینه‌های حیاتی مانند پزشکی، که اطلاعات نادرست می‌تواند پیامدهای ناگواری برای سلامت جامعه داشته باشد، بسیار جدی است.
برای مقابله با این چالش، پژوهشگران در تلاشند تا راهکارهای جدیدی برای شناسایی خودکار مقالات جعلی بیابند. یکی از این راهکارها، توسعه الگوریتم‌های یادگیری ماشینی است که قادر به تشخیص تفاوت‌های ظریف بین مقالات نوشته شده توسط انسان و هوش مصنوعی هستند.
اخیراً احمد عبدین حامد، پژوهشگر دانشگاه بینگهمتون، الگوریتمی به نام xFakeSci را توسعه داده است که توانایی شناسایی مقالات جعلی تولید شده توسط هوش مصنوعی با دقت ۹۴ درصد را دارد.
این الگوریتم با تمرکز بر تحلیل دو ویژگی اصلی متن، یعنی تعداد و ارتباط بین جفت کلمات (بی‌گرام‌ها)، به شناسایی مقالات جعلی می‌پردازد. نتایج تحقیقات حامد نشان می‌دهد که مقالات جعلی به طور معمول تعداد بی‌گرام‌های کمتری نسبت به مقالات واقعی دارند. همچنین، الگوریتم xFakeSci به این نتیجه رسیده است که ارتباط بین بی‌گرام‌ها در مقالات جعلی به گونه‌ای است که هوش مصنوعی تلاش می‌کند تا با استفاده از کلمات کلیدی، محتوایی قانع‌کننده‌ای تولید کند، بدون آنکه به عمق موضوع بپردازد.
این یافته‌ها نشان می‌دهد که روش نگارش انسان و هوش مصنوعی تفاوت‌های قابل توجهی دارد. انسان‌ها در نوشتن مقالات علمی به دنبال ارائه تصویر کامل و دقیقی از موضوع هستند، در حالی که هوش مصنوعی به دنبال استفاده از کلمات کلیدی برای متقاعد کردن خواننده است.
با این حال، حامد معتقد است که با پیشرفت هوش مصنوعی، تشخیص مقالات جعلی به طور فزاینده‌ای دشوار خواهد شد. بنابراین، توسعه مداوم الگوریتم‌های تشخیص و همچنین آگاه‌سازی کاربران در مورد این موضوع، برای مقابله با انتشار اطلاعات نادرست در حوزه‌های علمی ضروری است.
این تحقیق در مجله Scientific Reports منتشر شده است.