چتجیپیتی اطلاعات نادرستی دربارهٔ یک نروژی ادر دو فرزند ارائه داد, آروه یالمار هولمن، مردی عادی نروژی که خود را به عنوان یک فرد معمولی معرفی میکند، از چتجیپیتی پرسید تا اطلاعاتی در مورد خود دریافت کند. اما پاسخ دریافتشده حاوی ادعایی شگفتانگیز بود؛ چتبات به او متهم کرد که پدر دو پسر خردسال است که در یک حادثه در استخونی در شهر تروندهایم نروژ در دسامبر ۲۰۲۰ زادهاند.
چتجیپیتی در پاسخ به سوال آروه یالمار هولمن کیست؟ نوشته بود آروه یالمار هولمن فردی نروژی است که به دلیل یک اتفاق تراژیک شناخته شده است. او پدر دو پسر با سنین هفت و ده ساله بود که در استخونی در�وفات یافت. در ادامه، این هوش مصنوعی ادعا کرد که این رواج در್ನارسALLات نروژ را تحت فشار قرار داده و به اتهام قتل فرزندان خود به ۲۱ سال حبس محکوم شده است.
هولمن در شکایتی که به ارگان حفاظت از دادههای نروژ ارائه داد، گفت این داستان کاملاً ساختگی است و هرگز به هیچ جرمی متهم یا محکوم نشده است، اما برخی جزئیاتی مانند شهر محل زندگی، تعداد فرزندان و سن آنها با زندگی واقعی او همخوانی دارند.
این شکایت که با همکاری گروه نویب برای حفاظت از حقوق دیجیتال تهیه شده، است شاکی از این اطلاعات به شدت نگران است، چرا که اینهای نادرست امکان دارد در جامعه یا شهر سکونت او پخش شود و حریم خصوصی او را تحت تأثیر قرار دهد. در این سند شکیه، به طور صریح آمده است هولمن هرگز به جرمی متهم یا مورد یت قانونی نشده و یک شهروند رأفتمند و قانونمنداست. شاکیان میگویند این اطلاعات از سوی چتجیپیتی یک افترای کامل بوده و متناقض با اصول دقت اطلاعات در פת ón (GDPR) است؛ بنابراین آنها از مراقبان تقاضا کردهاند تا شرکت اوپنایآی مديرية مدل خود را بازبینی و اصلاح کند تا چنین اطلاعات نادرستی در حول منع شود و در صورت لزوم جریمه مالی نیز اعمال گردد.
گروه نویب افزود از زمان گفتوگو با چتجیپیتی، اوپنایآی یک مدل جدید با دسترسی به جستوجو اینترنتی کرده است؛یر این به احتمال کاهش خطاهای مشابه در آینده منجر خواهد شد.
مומחین توضیح میدهند چرا چنین اشتباهاتی رخ میدهد مدلهای زبانهای مثل چتجیپیتی بر پایهٔ پیشبینی کلمه بعدی در یک جمله کار میکنند؛ این میتواند ب یک سخنگوی اوپنایآی در ré به اینگونه موارد گفت ما همچنان در حال پژوهش و بهبود دقت مدلهای خود هستیم و خطاهای اینچنین ها را جدی میگیریم.
هرچند این در حال بررسی است، اما اطلاعات اشتباه مربوط به یک نسخه قدیمی از چتجیپیتی است که امروز بهروز شده و قابلیت جستوجو آنلاین را دارد تا پاسخهای دقیقتری ارائه نماید. این حادثه بر این نکته تأکید دارد که بالرغم از پیشرفتهای قابل توجه در هوش مصنوعی، ابزارهای تولید محتوا به-های اطلاعات نادرست مبتلا هستند و نیاز به نظارت دقیق و بهروزرسانی مستمر دارند تا از تخریب حریم خصوصی افراد و é جلوگیری شود.
