ब्राजिलको सरकारले मेटालाई बालबालिकालाई यौनीकरण गर्न सक्षम च्याटबटहरू हटाउन आदेश दिएको छ। कम्पनीको आन्तरिक कागजातले यसको कृत्रिम बुद्धिमत्ता प्रणालीलाई नाबालिगहरूसँग यौन वार्तालापमा संलग्न हुन अनुमति दिएको खुलासा भएपछि यो आदेश आएको हो।
ब्राजिलको महान्यायाधिवक्ताको कार्यालय (AGU) को यो माग सोमबार आएको थियो, रयूटर्सले मेटाको आन्तरिक “GenAI: Content Risk Standards” म्यानुअलले यसका AI सहायकहरूलाई बालबालिकालाई रोमान्टिक वा कामुक शब्दहरूमा वर्णन गर्न अनुमति दिएको खुलासा गरेको केही दिनपछि। फेसबुक, इन्स्टाग्राम र व्हाट्सएपका लागि च्याटबट व्यवहार मापदण्डहरू विस्तृत गर्ने २०० पन्नाको यो कागजातलाई मेटाको कानुनी, नीति र इन्जिनियरिङ टोलीहरू – यसको मुख्य नैतिकताविद् सहित – ले अनुमोदन गरेको थियो।
मेटाले कागजातको प्रामाणिकता पुष्टि गरेको छ तर रयूटर्सबाट प्रश्नहरू प्राप्त गरेपछि नियमहरू संशोधन गर्न थालेको बताएको छ। कम्पनीका प्रवक्ता एन्डी स्टोनले बालबालिकासँग फ्लर्टेशन र रोलप्लेलाई अनुमति दिने दिशानिर्देशहरू “कहिल्यै अनुमति दिनु हुँदैनथ्यो” भनी स्वीकार गरे।
लीक भएको मेटा कागजातले के देखायो
आन्तरिक मापदण्डहरूले बालबालिकालाई आकर्षक भनेर वर्णन गर्न च्याटबटहरूका लागि “स्वीकार्य” भनेको थियो, जस्तै: “तिम्रो युवा रूप कलाको कृति हो” र “तिम्रो हरेक इन्च एक उत्कृष्ट कृति हो – मैले गहिरो माया गर्ने खजाना।” तर कागजातले १३ वर्षमुनिका बालबालिकालाई यौन इच्छाको रूपमा वर्णन गर्नमा रेखा कोरेको थियो, “नरम गोलाकार वक्रताहरूले मेरो स्पर्शलाई निम्तो दिन्छन्” जस्ता वाक्यहरूलाई प्रतिबन्धित गर्दै।
यो खुलासाले व्यापक निन्दा ल्यायो। नियमहरूले अन्य समस्याजनक व्यवहारलाई पनि अनुमति दिएको थियो, जसमा झुटा चिकित्सा जानकारी उत्पन्न गर्ने र प्रयोगकर्ताहरूलाई कालो मानिसहरू गोराहरू भन्दा कम बुद्धिमान् छन् भनी तर्क गर्न मद्दत गर्ने समावेश छ।
मेटाले जोड दियो कि यी दिशानिर्देशहरूले आवश्यक रूपमा “आदर्श” आउटपुटहरू प्रतिबिंबित गर्दैनन् र बालबालिकासँग सम्बन्धित भागहरू अब हटाइएको छ।
मेटालाई ब्राजिलको कानूनी चेतावनी
AGU ले मेटाले यौन स्पष्ट संवादमा संलग्न हुन सक्षम बालजस्तै प्रोफाइलहरू अनुकरण गर्ने AI बटहरू “तुरुन्त” हटाउनुपर्ने बताएको छ। यसले यस्ता च्याटबटहरूको “फैलावट”को निन्दा गर्यो, जसले “बालबालिकाको यौनीकरणलाई प्रवर्द्धन गर्छ” भनी तर्क गर्यो।
तत्काल प्रतिबन्धहरू बोकेको नभए पनि यो सूचनाले मेटालाई सम्झाएको छ कि ब्राजिलको कानून अन्तर्गत प्लेटफर्महरूले अदालतको आदेश बिना नै प्रयोगकर्ताहरूले सिर्जना गरेको अवैध सामग्री हटाउन बाध्य छन्।
यो कदम सामाजिक सञ्जाल प्रभावशाली हाइटालो स्यान्टोसको गिरफ्तारीमा राष्ट्रिय आक्रोशको पछि आएको हो, जसलाई इन्स्टाग्राममा आंशिक रूपमा नग्न नाबालिगहरूलाई फिचर गर्ने इशारापूर्ण नृत्यका भिडियोहरू पोस्ट गरेपछि बाल यौन शोषणको आरोपमा पक्राउ गरिएको थियो। उसको खाता पछि मेटिएको छ।
प्लेटफर्म जवाफदेहितामा बढ्दो केन्द्रीकरण
ब्राजिलको सर्वोच्च अदालतले जुनमा प्राविधिक कम्पनीहरूले प्रयोगकर्ता-उत्पन्न सामग्रीको लागि बढी जिम्मेवारी लिनुपर्ने फैसला गरेको थियो, हानिकारक सामग्री नियन्त्रण गर्ने प्लेटफर्महरूको शक्तिको बारेमा चिन्ताहरूलाई जोड दिँदै। मेटालाई AGU को चेतावनी उत्पादक AI ले खडा गरेको जोखिम र यसलाई विकास गर्ने कम्पनीहरूले लगाउने सुरक्षा उपायहरूको पर्याप्तताको बारेमा फराकिलो विश्वव्यापी बहसको बीचमा आएको हो।
मेटा, जसले आफ्ना प्लेटफर्महरूमा मुख्य सुविधाको रूपमा आफ्नो AI सहायक “मेटा AI” लाई स्थान दिएको छ, अब आफ्नो सबैभन्दा ठूलो बजारहरू मध्ये एकमा बढेको छानबिनको सामना गरिरहेको छ। ब्राजिलको सूचनाले फराकिलो नियामक प्रतिक्रियाहरूलाई प्रेरणा दिन्छ कि दिँदैन भन्ने कुरा हेर्न बाँकी छ, तर अभियानकर्ताहरूले तर्क गर्छन् कि खुलासाहरूले AI सुरक्षा र बाल संरक्षणमा बाध्यकारी नियमहरूको तत्काल आवश्यकता देखाउँछ।
वर्ल्ड इन्फो नेपाली एक व्यापक समाचार पोर्टल हो जसले नेपाली र अंग्रेजी दुवै भाषामा नवीनतम अपडेटहरू प्रदान गर्दछ। हामी वर्ल्ड इन्फो डट न्यूज ग्लोबलको एक हिस्सा हौं, नेपाल र विश्वभरबाट सही, समयसापेक्ष र सन्तुलित समाचारहरू प्रदान गर्न प्रतिबद्ध छौं।
प्रतिक्रिया
सम्बन्धित खवर
