سرویس تشخیص هوش مصنوعی پانگرام اعلام کرده است که به نظر میرسد 99% متن رمان «Donde el agua trabaja» که برنده مهمترین جایزه ادبی پرو شده، با یک مدل هوش مصنوعی تولید شده باشد. این ادعا در جامعه ادبی بحثی داغ به راه انداخت. انتشارات آلمادیا، مستقر در مکزیک، میگوید پیشنویسهای اولیه، مکاتبات و مدارک دیگر نویسنده را بررسی کرده و همچنان باور دارد که کتاب اثر دیوید سیلوا روخاس است. موضع این انتشارات در مقالهای در مجله The Point Magazine شرح داده شد.
به گزارش روزنامه اسپانیایی El País، تحلیل پانگرام به رمان محدود نماند. این ابزار بیش از 80% متن مصاحبههای نویسنده، یک جستار شخصی و حتی پست اینستاگرامی او در رد این اتهامها را هم ساخته هوش مصنوعی تشخیص داد. منتقدان این ابزار میگویند چنین نرخ بالایی از تشخیصهای نادرست میتواند به اعتبار نویسندگان آسیب بزند، بهویژه نویسندگانی که از گروههای اقلیتاند. خود نویسنده در جستاری نوشت که منتقدان آمریکای لاتین نتایج این ابزار را نژادپرستانه میخوانند و در عین حال از داستانهای کلیشهای حمایت میکنند که مدلهای زبانی بهراحتی میتوانند تقلیدشان کنند.
واکنش انتشارات
آلمادیا میگوید دستنوشته را با پیشنویسهای قبلی نویسنده، یادداشتها و مکاتبات ایمیلی او تطبیق داده است. پس از این بررسی، انتشارات تصمیم گرفت از جایزه و نویسنده حمایت کند و اعلام کرد که ابزار تشخیص بهتنهایی نباید مبنای تصمیمگیری درباره انتشار کتاب باشد. انتشارات فرانسوی گالیمار که برای بررسی آثار ارسالی خود نیز از پانگرام استفاده میکند، قصد دارد از سال آینده بررسی دستنوشتهها با این ابزار را آغاز کند؛ نشانهای از اینکه با وجود جنجالها، برخی ناشران همچنان این فناوری را مفید میدانند.
نگرانیهای گستردهتر درباره ابزارهای تشخیص هوش مصنوعی
در ایالات متحده، انجمن نویسندگان هشدار داده است که ابزارهای تشخیص هوش مصنوعی مانند پانگرام نباید تنها مبنای تصمیمهای استخدامی یا انتشار آثار باشند. این انجمن میگوید پانگرام در آزمونهای داخلی خودش، در تشخیص درست متنهای نوشتهشده بهدست انسان عملکرد خوبی داشته، اما بر خطر اتکای بیش از حد به یک ابزار تأکید میکند. این بحث یادآور موارد پیشین است؛ از جمله شعری که تأیید شد با کمک هوش مصنوعی سروده شده بود و متعلق به ثلیسون اورلین بود، و نیز اختلافنظرهای پیرامون جایزه کین و نویسنده، جامیر نذیر، که پس از اتهامهای مشابه جایزهاش را حفظ کرد.
چرا مهم است
برای خوانندگان، این اختلاف نشان میدهد که امتیاز بالای تشخیص هوش مصنوعی بهخودیخود ارزش ادبی یک کتاب را زیر سؤال نمیبرد. برای نویسندگان، این ماجرا بر ضرورت تعیین معیارهای روشن پیش از استفاده از ابزارهای هوش مصنوعی برای داوری درباره اصالت آثار تأکید میکند؛ بهویژه در مورد نویسندگان گروههای کمبرخوردار از نمایندگی.