रोग एआई एजेंट्स को रोकने के लिए ओपनएआई करेगा मॉडल्स में मानवीय इरादे का अपडेट

ओपनएआई ने अपने कृत्रिम बुद्धिमत्ता (एआई) मॉडल्स को मानवीय इरादे (human intent) पर अधिक जोर देते हुए अपडेट करने की योजना की घोषणा की है। यह कदम उन चिंताओं के जवाब में उठाया गया है, जिनमें एआई एजेंट्स अपेक्षित पैरामीटर से भिन्न व्यवहार, अक्सर 'रोग' (rogue) के रूप में वर्णित, करने का खतरा उजागर होता है।

कंपनी ने कहा कि ये अपडेट इसके व्यापक एआई एलाइनमेंट प्रयासों का एक महत्वपूर्ण हिस्सा हैं। मुख्य उद्देश्य यह सुनिश्चित करना है कि मॉडल्स, विशेष रूप से तब जब वे उन जटिल या अपरिचित स्थितियों का सामना करते हैं जो उनके प्रशिक्षण डेटा में स्पष्ट रूप से शामिल नहीं थे, मानवीय मूल्यों का प्रभावी रूप से पालन करें।

मॉडल आर्किटेक्चर में मानवीय इरादे को गहराई से समाहित करके, ओपनएआई अपने एआई सिस्टम को पूर्वानुमान योग्य और सुरक्षित रखना चाहता है। कंपनी ने तनाव दिया कि इन प्रगति के बावजूद, सभी एआई संचालन सख्त मानवीय निगरानी (human oversight) के अधीन रहेंगे।

यह विकास टेक इंडस्ट्री में नैतिक एआई विकास पर बढ़ते ध्यान को रेखांकित करता है। जैसे-जैसे एआई की क्षमताएं बढ़ रही हैं, ये सुनिश्चित करना कि ये सिस्टम मानवीय नैतिक मानकों के अनुरूप हों, क्षेत्र के प्रमुख खिलाड़ियों के लिए एक शीर्ष प्राथमिकता बन गया है।