تنسنت در ۲۸ اکتبر ۲۰۲۶ مخزن و مجموعهداده بنچمارک HyperLogic را عمومی کرد. این بنچمارک توانایی استدلال منطقی به زبان چینی را در سه سطح میسنجد. پاسخها با اجرای مدلهای صوری از طریق حلگرهای منطقی به دست آمدهاند، نه با نوشتن دستی.
این مجموعه شامل ۶۹ مسئله Seed، ۵۹ مسئله Base و ۳۰ مسئله Hard است و ابزارهای امتیازدهی و محیطی ایزوله برای آزمودن عاملها روی مسائل Hard را هم در بر میگیرد. ۷۰٪ باقیمانده محرمانه است. در آزمون تیم روی هفت مدل، هیچکدام با پاسخدهی مستقیم در Hard امتیازی بالاتر از ۱۶٪ نگرفتند. استفاده از محیط اجرای کد امتیازها را بالا برد، اما بهترین نتیجه با کتابخانه منطقی ۵۷٪ بود.
چرا مهم است
پژوهشگران میتوانند از مسائل و ابزارهای منتشرشده برای ارزیابی سامانههای استدلالی استفاده کنند، اما ارزیابی کامل بنچمارک به ۷۰٪ محرمانه نیاز دارد؛ محرمانهماندن این بخش همچنین از افشای موارد آزمون جلوگیری میکند.