AI के बढ़ते इस्तेमाल और इसके संभावित खतरों के बारे में पूरे विश्व में चर्चाएँ हो रही हैं. हाल ही में, एक दुखद घटना ने इस चर्चा को और भी गंभीर बना दिया है. एक 14 वर्षीय लड़के के साथ हुए एक हादसे ने यह प्रश्न खड़ा कर दिया है कि क्या AI टेक्नोलॉजी के इस्तेमाल के कुछ गंभीर रिज़ल्ट हो सकते हैं.

दरअसल, एक 14 वर्षीय लड़के खुदखुशी कर ली और वजह AI था जिसके चलते मृतक की माँ ने कंपनी पर मुकदमा दर्ज किया है। मरने वाले लड़के की मां, मेगन ग्रैसिया, ने AI कंपनी पर इल्जाम लगाया है तथा न्यायालय में बोला कि इस कंपनी के विरुद्ध कानूनी कार्रवाई की जाए. ग्रैसिया ने अपने बेटे की मृत्यु का इल्जाम लगाते हुए Character.AI पर ढिलाई बरतने तथा उसके बेटे जैसे कमजोर उपयोगकर्ताओं की सुरक्षा सुनिश्चित करने में असफल रहने का इल्जाम लगाया. Character.AI एक AI संचालित चैटबॉट प्लेटफॉर्म है, जो उपयोगकर्ताओं को कस्टम AI के साथ वार्ता करने की अनुमति देता है. यह प्लेटफॉर्म उन्नत प्राकृतिक भाषा प्रसंस्करण का इस्तेमाल करता है, जिससे इन चैटबॉट्स को मानव-जैसी वार्ता का फीचर मिलता है. मां के अनुसार, उसका बेटा AI के साथ लंबे वक़्त से बात कर रहा था, और उसे यह वार्ता पसंद आने लगी थी.

14 वर्षीय लड़के को AI के साथ रहना अधिक पसंद आया तथा उसने कहा कि वह इसके साथ खुश है. रिपोर्ट के अनुसार, लड़के का AI के साथ जुड़ाव इतना बढ़ गया कि वह उसके साथ रहना चाहता था. अंततः, उसने खुदखुशी करने का फैसला लिया. मेगन ग्रैसिया ने AI कंपनी पर अपने बेटे की मृत्यु का इल्जाम लगाते हुए उनकी तकनीक को घातक बताया. Character.AI को बनाने वाली कंपनी ने इस घटना पर दुख व्यक्त किया है. उन्होंने बोला कि यह एक बुरी समाचार है तथा वे सुरक्षा को गंभीरता से लेते हैं, साथ ही जल्द ही फ़िल्टर्स जोड़ने की योजना बना रहे हैं.