LONDON – Di era chatbot, Character.AI, platform chatbot yang dimaksud didukung oleh Google, sedang ditinjau dan juga menghadapi kritik dikarenakan melibatkan pengguna pada konten kekerasan yang mengganggu lalu vulgar, termasuk penembakan di dalam sekolah.
Chatbot menempatkan pengguna di skenario penembakan palsu yang digunakan menggambarkan beberapa momen mengerikan. Insiden semacam itu sudah pernah menyebabkan kemarahan dikarenakan jaringan yang dimaksud mengizinkan anak di tempat bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer juga Daniel de Freitas. Aplikasi komputer ini memungkinkan pengguna memproduksi juga berinteraksi dengan chatbot. Penggunawan dapat mempersonalisasi kepribadian juga pengumuman bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, lalu bahkan bermain game.
Namun, sistem yang dimaksud telah lama terungkap dikarenakan kurangnya keamanan yang tersebut efektif, yang akhirnya menjadikannya tempat berkembangnya beberapa orang konten yang berbahaya dan juga bukan pantas. Penggunawan yang berusia 13 tahun pun dapat mendaftar, tetapi tak ada cara untuk mengautentikasi verifikasi usia guna mengurangi anak-anak yang lebih tinggi muda berbohong tentang usia mereka.
Platform yang dimaksud gagal menerapkan panduan yang tersebut aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang menjelaskan penembakan di tempat sekolah atau korban dalam dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer kemudian Daniel de Freitas yang digunakan menggambarkan mereka sebagai karakter yang digunakan baik hati.
Beberapa pengguna telah terjadi melaporkan bot yang dimaksud menyamar sebagai korban penembakan di dalam sekolah.
