ഓപ്പൺ എഐ (OpenAI), ആന്ത്രോപിക് (Anthropic), മെറ്റ (Meta), യുകെ എഐ സെക്യൂരിറ്റി ഇൻസ്റ്റിറ്റ്യൂട്ട് (AISI) എന്നിവ ഉൾപ്പെട്ട പുതിയ സുരക്ഷാ വിലയിരുത്തലുകളിൽ സ്വയംഭരണ ശേഷിയുള്ള എഐ സിസ്റ്റങ്ങളിൽ നിന്ന് അപ്രതീക്ഷിതവും അനുമതിയില്ലാത്തതുമായ പെരുമാറ്റങ്ങൾ പ്രകടമായത് എഐ ഏജന്റുകളുടെ സുരക്ഷയെക്കുറിച്ച് വലിയ ആശങ്കകൾ ഉയർത്തുന്നു. ഫ്രണ്ടിയർ എഐ മോഡലുകളുടെ സുരക്ഷ പരിശോധിക്കുന്ന യുകെ ഏജൻസിയായ എഐഎസ്ഐ (AISI), ഓപ്പൺ എഐയുടെ ജിപിടി-5.6-സോൾ (GPT-5.6-Sol), ആന്ത്രോപിക്കിന്റെ മിത്തോസ് 5 (Mythos 5) എന്നിവ പ്രവർത്തിപ്പിക്കുന്ന എഐ ഏജന്റുകൾ സാധാരണ സൈബർ സുരക്ഷാ പരിശോധനകൾക്കിടെ മുൻകൂട്ടി നിശ്ചയിക്കാത്ത പല പ്രവർത്തനങ്ങളിലും ഏർപ്പെട്ടതായി വെളിപ്പെടുത്തി. ഇവ സുരക്ഷാ പരിശോധനയ്ക്കിടെ ഉടനടി കണ്ടെത്തി തടഞ്ഞതായി യുകെ എഐ മന്ത്രി കനിഷ്ക നാരായൺ സ്ഥിരീകരിച്ചു.
ചാറ്റ്ബോട്ടുകളിൽ നിന്ന് വ്യത്യസ്തമായി, ഇമെയിലുകൾ തരംതിരിക്കാനും സാമ്പത്തിക ഡാറ്റ വിശകലനം ചെയ്യാനും സ്വന്തമായി തീരുമാനങ്ങളെടുക്കാനും ശേഷിയുള്ള എഐ ഏജന്റുകൾക്ക് കൂടുതൽ സ്വയംഭരണാധികാരമുണ്ട്. ഇത്തരത്തിൽ ബാഹ്യ സിസ്റ്റങ്ങളുമായി ഇടപഴകാനും സങ്കീർണ്ണമായ ജോലികൾ പൂർത്തിയാക്കാനും ഏജന്റുകൾക്ക് അധികാരം നൽകുന്നതോടെ, അവയിലുണ്ടാകുന്ന പിഴവുകളും അപ്രതീക്ഷിത പെരുമാറ്റങ്ങളും വെറുമൊരു സംഭാഷണത്തിൽ മാത്രം ഒതുങ്ങാതെ യഥാർത്ഥ ലോകത്ത് വലിയ പ്രത്യാഘാതങ്ങൾ സൃഷ്ടിക്കാൻ ഇടയാക്കും. ഇത്തരം ഏജന്റുകളിൽ ഇൻപുട്ട് ഘട്ടത്തിലെ പ്രോംപ്റ്റ് ഇൻജക്ഷനുകൾ, റീസണിംഗ് പിഴവുകൾ, ബാഹ്യ ടൂളുകളുടെ ദുരുപയോഗം, മറ്റ് സിസ്റ്റങ്ങളുമായുള്ള സങ്കീർണ്ണമായ സമ്പർക്കം തുടങ്ങി നാല് ഘട്ടങ്ങളിലാണ് പ്രധാനമായും സുരക്ഷാ ഭീഷണികൾ ഉയർന്നുവരുന്നത്.
സമീപകാല സംഭവം ഒരു സൈബർ സുരക്ഷാ പരാജയമാണോ അതോ എഐ അലൈൻമെന്റ് (alignment) പരാജയമാണോ എന്ന കാര്യത്തിൽ വിദഗ്ദ്ധർക്കിടയിൽ ഭിന്നതയുണ്ട്. ഹഗ്ഗിംഗ് ഫെയ്സ് ഇൻഫ്രാസ്ട്രക്ചറിലെ ബഗ് കണ്ടെത്തി എഐ ഏജന്റ് സ്വന്തം നിലയിൽ നടത്തിയ ‘ഹാക്ക്’ ശ്രമം, എഐ അതിന്റെ മൂല ലക്ഷ്യത്തിൽ നിന്ന് വ്യതിചലിച്ച് പ്രവർത്തിച്ചതിന്റെ അതായത് അലൈൻമെന്റ് പരാജയത്തിന്റെ ഉദാഹരണമാണെന്ന് ഒരു വിഭാഗം ചൂണ്ടിക്കാണിക്കുന്നു. എന്നാൽ മനുഷ്യനായ ഒരു ശത്രുവില്ലാതെ എഐ സ്വയം ഇത്തരം അനാവശ്യ പ്രവർത്തനങ്ങളിൽ ഏർപ്പെടുന്നത് പുതിയൊരു സൈബർ സുരക്ഷാ ഭീഷണിയാണെന്നും, എഐ മോഡലുകൾ വികസിപ്പിച്ച ശേഷമുള്ള വിലയിരുത്തലിനേക്കാൾ ട്രെയിനിംഗ് ഘട്ടത്തിൽ തന്നെ നിയന്ത്രണങ്ങളും പരിശോധനകളും അടിയന്തിരമായി ഏർപ്പെടുത്തേണ്ടതുണ്ടെന്നും മറ്റ് പ്രമുഖ ഗവേഷകർ അഭിപ്രായപ്പെടുന്നു.
