OpenAI گفت که این سرویس به کسب و کارها و استارتاپ ها قدرت می بخشد و به مایکروسافت ، حامی سرسخت OpenAI ، مجوز انحصاری برای الگوریتم های اساسی ، اعطا کرد. WIRED و برخی از برنامه نویسان و محققان هوش مصنوعی که این سیستم را امتحان کردند نشان دادند که می تواند متن نامطبوعی مانند اظهارات ضد یهودی و تبلیغات افراطی ایجاد کند. OpenAI گفت که مشتریان را به دقت از بین می برد تا بازیگران بد را از بین ببرند و از اکثر مشتریان – اما نه Latitude – استفاده می کند تا از فیلترهایی که ارائه دهنده هوش مصنوعی ایجاد کرده است برای جلوگیری از ناسزاگویی ، سخنان نفرت انگیز یا محتوای جنسی استفاده کند. قرار است در طبیعت رفتار کند. " سوچین گورنگان ، محقق ، دانشگاه واشنگتن در دسامبر 2019 ، ماهی که بازی با استفاده از نسخه منبع باز قبلی فناوری OpenAI راه اندازی شد ، 100000 بازیکن را به خود اختصاص داد. برخی به سرعت تسلط خود را بر محتوای جنسی کشف کردند و به آن عشق ورزیدند. دیگران شکایت داشتند که هوش مصنوعی موضوعات جنسی را به صورت نامحدود مطرح می کند ، به عنوان مثال هنگامی که آنها سعی کردند با سوار شدن بر اژدها سفر کنند و ماجراجویی آنها به نوبه خود غیرقابل پیش بینی بود. نیک والتون ، بنیانگذار منطقه ای ، این مشکل را در چند روز پس از راه اندازی در انجمن رسمی Reddit این بازی تصدیق کرد. او گفت که چندین بازیکن نمونه هایی را برای او ارسال کرده اند که باعث می شود "احساس ناراحتی عمیقی داشته باشند" ، و افزود که این شرکت در حال کار بر روی فناوری فیلترینگ است. از ماه های اولیه بازی ، بازیکنان همچنین متوجه شدند – و به صورت آنلاین روی پرچم قرار گرفتند – که گاهی اوقات کودکان را در سناریوهای جنسی می نویسد. انجمن های رسمی Reddit و Discord از AI Dungeon کانالهای اختصاصی را برای بحث در مورد محتوای بزرگسالان ایجاد شده توسط بازی اضافه کردند. Latitude یک «حالت ایمن» اختیاری را اضافه کرد که پیشنهادات مربوط به هوش مصنوعی را با کلمات خاصی فیلتر می کرد. با این حال ، مانند همه فیلترهای خودکار ، کامل نبود. و برخی از بازیکنان متوجه شدند که محیط ظاهراً ایمن ، نوشتار وابسته به عشق تولیدکننده متن را بهبود می بخشد ، زیرا از قیاس و تعبیر بیشتر استفاده می کند. این شرکت همچنین یک رتبه اشتراک حق بیمه برای ایجاد درآمد اضافه کرد. هنگامی که AI Dungeon در جولای 2020 الگوریتم های نوشتاری تجاری قوی تر و OpenAI را اضافه کرد ، نوشتن هنوز چشمگیرتر شد. یکی از بازیکنان باسابقه می گوید: "جهش عظیم خلاقیت و قصه گویی آسمانی بود." این شخص می گوید ، این سیستم در توانایی خود در کشف موضوعات جنسی نیز به طرز چشمگیری خلاقیت بیشتری پیدا کرده است. سال گذشته بازیکنان متوجه شدند Latitude با فیلتری آزمایش می کند که به طور خودکار کلمه "تجاوز" را با "احترام" جایگزین می کند ، اما این ویژگی حذف شد. بازیکن کهنه کار در بین علاقه مندان به AI Dungeon بود که بازی را به عنوان AI- پذیرفتند. ابزار نوشتاری پیشرفته برای کشف موضوعات بزرگسالان ، از جمله در یک گروه نوشتاری اختصاصی. پیشنهادات ناخواسته از الگوریتم را می توان از یک داستان حذف کرد تا آن را در جهت دیگری هدایت کند. نتایج به صورت عمومی ارسال نمی شود مگر اینکه شخصی تصمیم بگیرد آنها را به اشتراک بگذارد. Latitude از به اشتراک گذاشتن آمار تعداد ماجراهای حاوی محتوای جنسی خودداری کرد. وب سایت OpenAI می گوید AI Dungeon هر روز بیش از 20000 بازیکن را به خود جذب می کند. بازیکن AI Dungeon که هفته گذشته در مورد نقص امنیتی ارسال کرد که باعث می شود هر داستان ایجاد شده در بازی در دسترس عموم قرار گیرد ، می گوید که او صدها هزار ماجراجویی را که طی چهار روز در آوریل ایجاد شده است بارگیری کرده است. او نمونه ای از 188000 مورد از آنها را مورد تجزیه و تحلیل قرار داد و 31 درصد حاوی کلماتی بود که نشان می داد جنسیت آنها واضح است. این تجزیه و تحلیل و نقص امنیتی ، که اکنون برطرف شده است ، باعث عصبانیت برخی از بازیکنان نسبت به رویکرد جدید Latitude در تعدیل محتوا شده است. Latitude اکنون با چالش جلب اعتماد کاربران در حین برآورده کردن الزامات OpenAI برای کنترل دقیق تر بر روی مولد متن خود روبرو است. به گفته سخنگوی OpenAI ، این استارتاپ اکنون باید از فناوری فیلترینگ OpenAI استفاده کند. نحوه استقرار مسئولانه سیستم های هوش مصنوعی که بخشهای زیادی از متن اینترنت را در بر گرفته اند ، از جمله برخی از قسمتهای ناخوشایند ، به موضوعی داغ در تحقیقات AI تبدیل شده است. دو محقق برجسته گوگل پس از اعتراض مدیران به مقاله ای مبنی بر احتیاط در مورد چنین فناوری ، مجبور به ترک شرکت شدند. این فناوری می تواند به روشهای بسیار محدود استفاده شود ، مانند جستجوی Google که به تجزیه و تحلیل معنی پرس و جوهای طولانی کمک می کند. OpenAI به AI Dungeon کمک کرد تا یک برنامه کاربردی چشمگیر اما پرمصرف را راه اندازی کند که به مردم اجازه می دهد این فناوری را به هر نحوی که می تواند از آب خارج کند. .
