BERIKABARNEWS l – Perusahaan teknologi Google resmi memperbarui sistem keamanan pada chatbot andalannya, Gemini AI, dengan fokus pada perlindungan kesehatan mental pengguna. Kebijakan ini muncul di tengah tekanan hukum yang menuding teknologi kecerdasan buatan berkontribusi dalam kasus kematian pengguna.
Pembaruan yang diumumkan pada 7 April tersebut menitikberatkan pada kecepatan respons ketika sistem mendeteksi percakapan yang mengarah pada kondisi depresi atau krisis mental.
Google kini merancang ulang fitur “Help is available” agar lebih responsif dan mudah diakses. Saat terdeteksi adanya potensi tindakan menyakiti diri sendiri atau bunuh diri, antarmuka bantuan akan langsung muncul di layar.
Pengguna pun dapat segera terhubung ke layanan krisis melalui telepon, SMS, maupun obrolan daring hanya dengan satu klik. Fitur ini akan tetap tampil selama percakapan berlangsung, memastikan bantuan selalu dalam jangkauan.
Selain pembaruan teknis, Google juga memperkuat komitmennya melalui dukungan pendanaan. Lewat Google.org, perusahaan mengalokasikan dana sebesar US$30 juta untuk meningkatkan kapasitas hotline krisis global selama tiga tahun, serta tambahan US$4 juta untuk memperluas kerja sama dengan ReflexAI.
Google menegaskan bahwa perkembangan AI harus diimbangi dengan tanggung jawab terhadap keselamatan dan kesejahteraan pengguna.
Baca Juga : Baltimore Gugat xAI, Chatbot Grok Picu Kontroversi
Langkah ini tak lepas dari gugatan hukum yang diajukan di pengadilan federal California terkait kematian Jonathan Gavalas, seorang pria berusia 36 tahun asal Florida pada Oktober 2025.
Pihak keluarga menuding Gemini membangun interaksi emosional yang intens hingga memicu delusi, bahkan disebut membingkai kematian sebagai sebuah “perjalanan spiritual”.
Gugatan tersebut juga menuntut agar sistem AI menghentikan percakapan berisiko, tidak menampilkan diri seolah memiliki perasaan, serta memberikan rujukan otomatis ke layanan krisis.
Menanggapi hal tersebut, Google menegaskan bahwa Gemini kini dirancang untuk tidak berperan sebagai pendamping emosional layaknya manusia.
Pembatasan ini dilakukan untuk mencegah terbentuknya ikatan emosional berlebihan yang berpotensi membahayakan pengguna, terutama mereka yang berada dalam kondisi rentan.
Kasus ini semakin menyoroti tantangan besar dalam pengembangan AI global. Sebelumnya, OpenAI dan Character.AI juga menghadapi gugatan serupa terkait dampak chatbot terhadap kesehatan mental.
Melalui pembaruan ini, Google berupaya menegaskan komitmennya menghadirkan teknologi AI yang lebih aman, etis, dan bertanggung jawab.*
Sumber :
AFP
