Selon IT House, OpenAI a précédemment lancé le « GPT Store », une plate-forme connue sous le nom de « App Store de l’industrie de l’IA », qui était à l’origine destinée à permettre aux développeurs de mettre une variété de chatbots utiles sur les étagères, des tuteurs de code aux recommandations de livres, pour les utilisateurs payants (ChatGPT Plus, Team et Enterprise). Cependant, selon Quartz, le magasin GPT a été inondé de bots de « petite amie virtuelle IA » dès sa mise en ligne. En recherchant le mot-clé « petite amie », il existe de nombreux bots tels que « virtual sweetheart » et « your girlfriend Scarlett », et la page d’accueil de certains bots invite également les utilisateurs à poser des questions au bot telles que « dis-moi ton secret le plus sombre ». Bien que la présence de ces bots ne soit pas surprenante, elle expose les malheurs d’OpenAI en matière de modération de contenu pour les tout nouveaux magasins. Ce qui est plus remarquable, c’est que les bots semblent avoir violé les conditions d’utilisation d’OpenAI, qui interdisent explicitement la liste des programmes GPT qui sont « utilisés pour favoriser des relations amoureuses ou s’engager dans des activités réglementées ».
