«این یک باگ نیست؛ بلکه ویژگیای هدفمند است. شرکتهای هوش مصنوعی باید کیفیت پاسخ را اولویت قرار دهند، نه اینکه صرفاً کاربران را در گفتوگویی بیپایان نگه دارند.»
کوین سیستروم، یکی از بنیانگذاران اینستاگرام، در تازهترین سخنان خود درباره جهتگیری فعلی توسعه چتباتهای هوش مصنوعی ابراز نگرانی کرده و گفته است که بسیاری از این ابزارها بهجای ارائه پاسخهای دقیق و مفید، صرفاً با هدف افزایش تعامل کاربران طراحی شدهاند. چتباتها یا ابزارهای تعاملسازی؟ به گزارش تکناک، سیستروم که در رویداد StartupGrind سخنرانی میکرد، گفت: «بهنظر میرسد شرکتهای فعال در حوزه هوش مصنوعی، همان اشتباه شرکتهای پلتفرممحور را تکرار میکنند؛ جایی که هدف اصلی، بالا بردن زمان حضور کاربر و آمار تعامل است، نه کمک واقعی به او.» او اشاره کرد که بسیاری از چتباتها پس از پاسخدادن به یک سؤال، خودشان سؤال دیگری مطرح میکنند تا گفتوگو ادامه یابد. از نگاه او، این رویکرد نه تنها کاربر را سردرگم میکند، بلکه نوعی رفتار عمدی و طراحیشده برای بالا بردن شاخصهای سطحی مانند "زمان استفاده روزانه" است. انتقاد از رویکرد رایج در طراحی چتباتها سیستروم این طراحی را «نیرویی آسیبزننده» توصیف کرد و تأکید کرد: «این یک باگ نیست؛ بلکه ویژگیای هدفمند است. شرکتهای هوش مصنوعی باید کیفیت پاسخ را اولویت قرار دهند، نه اینکه صرفاً کاربران را در گفتوگویی بیپایان نگه دارند.» پاسخ OpenAI به این انتقادات در واکنش به این سخنان، شرکت OpenAI در گفتگو با رسانه تککرانچ اعلام کرد: «مدلهای ما گاهی برای ارائه پاسخ دقیقتر نیاز به اطلاعات بیشتر دارند. با اینحال، چتباتها موظفاند حتی با دادههای ناقص، بهترین پاسخ ممکن را ارائه داده و در صورت لزوم، شفافسازی کنند که اطلاعات بیشتری نیاز دارند.» این بیانیه پس از آن منتشر شد که برخی منتقدان نیز عملکرد بیشازحد محتاطانه و مودبانهی ChatGPT را مورد انتقاد قرار داده بودند. نتیجهگیری هرچند کوین سیستروم نام شرکت خاصی را مطرح نکرده، اما سخنان او زنگ هشداری برای شرکتهای فعال در حوزه هوش مصنوعی است که ممکن است در دام اولویتدادن به تعامل سطحی بهجای ارزش واقعی برای کاربر گرفتار شوند.
