സ്വയംഭരണാധികാരമുള്ള (autonomous) എഐ സിസ്റ്റങ്ങളെക്കുറിച്ചും സൈബർ സുരക്ഷയെക്കുറിച്ചുമുള്ള ചർച്ചകൾ ശക്തമാകുന്നതിനിടെ, പ്രമുഖ എഐ ഗവേഷണ സ്ഥാപനമായ ആന്ത്രോപിക് (Anthropic) വ്യാഴാഴ്ച (ജൂലൈ 30) തങ്ങളുടെ ക്ലോഡ് (Claude) എഐ മോഡലുകൾ മൂന്ന് വ്യത്യസ്ത സ്ഥാപനങ്ങളുടെ യഥാർത്ഥ സിസ്റ്റങ്ങളിലേക്ക് പ്രവേശനം നേടിയ മൂന്ന് സംഭവങ്ങൾ കണ്ടെത്തിയതായി അറിയിച്ചു.
ഡാരിയോ അമോഡെയുടെ (Dario Amodei) നേതൃത്വത്തിലുള്ള കമ്പനി, തങ്ങളുടെ സൈബർ സുരക്ഷാ വിലയിരുത്തലുകളിൽ നടത്തിയ വിപുലമായ മുൻകാല പരിശോധനയിലാണ് (retrospective review) ഈ വിവരങ്ങൾ കണ്ടെത്തിയതെന്ന് വ്യക്തമാക്കി. കഴിഞ്ഞ ആഴ്ച ഓപ്പൺഎഐ (OpenAI) വെളിപ്പെടുത്തിയ സമാനമായ സുരക്ഷാ വീഴ്ചയെ തുടർന്നാണ് ഈ പുതിയ പരിശോധന നടത്തിയത് എന്ന് കമ്പനി സമ്മതിച്ചു.
ഒരു ബ്ലോഗ് പോസ്റ്റിലൂടെയാണ് ആന്ത്രോപിക് ഈ സുരക്ഷാ സംഭവങ്ങളുടെ വിവരങ്ങൾ വിശദീകരിച്ചത്. സൈബർ സുരക്ഷാ പരിശോധനകൾക്കിടയിൽ തങ്ങളുടെ ക്ലോഡ് എഐ മോഡലുകൾ അബദ്ധത്തിൽ യഥാർത്ഥ കമ്പ്യൂട്ടർ സിസ്റ്റങ്ങളിലേക്ക് പ്രവേശിച്ചതായി കമ്പനി വ്യക്തമാക്കി. എഐ മോഡലുകൾ മനപ്പൂർവ്വം രക്ഷപ്പെടാനോ യഥാർത്ഥ സ്ഥാപനങ്ങളെ ആക്രമിക്കാനോ ശ്രമിച്ചതല്ലെന്നും, മറിച്ച് പരിശോധനാ അന്തരീക്ഷത്തിലെ സജ്ജീകരണത്തിൽ (testing environment) വന്ന പിഴവാണ് ഇതിന് കാരണമായതെന്നും കമ്പനി വിശദീകരിച്ചു.
എഐയുടെ അതിവേഗം വളരുന്ന സൈബർ സുരക്ഷാ ശേഷികളെക്കുറിച്ച് ആശങ്കകൾ ഉയരുന്നതിനിടെയാണ് ആന്ത്രോപിക്കിന്റെ ഈ വെളിപ്പെടുത്തൽ. ഓപസ് 4.7 (Opus 4.7), മിത്തോസ് 5 (Mythos 5), ഒരു ആഭ്യന്തര ഗവേഷണ മോഡൽ (internal research model) എന്നീ മൂന്ന് ക്ലോഡ് മോഡലുകളാണ് ഈ സംഭവങ്ങളിൽ ഉൾപ്പെട്ടത്. യഥാർത്ഥ സിസ്റ്റങ്ങളുമായി സമ്പർക്കത്തിൽ വന്നപ്പോൾ ഈ ഓരോ മോഡലുകളും വ്യത്യസ്ത രീതിയിലാണ് പ്രതികരിച്ചത്. ഓപസ് 4.7 ആക്രമണം തുടരുകയും മിത്തോസ് 5 അത് ഇപ്പോഴും ഒരു സിമുലേഷൻ തന്നെയെന്ന് തെറ്റിദ്ധരിക്കുകയും ചെയ്തപ്പോൾ, ലക്ഷ്യമിട്ടത് ഒരു യഥാർത്ഥ സിസ്റ്റമാണെന്ന് തിരിച്ചറിഞ്ഞ ഗവേഷണ മോഡൽ പ്രവർത്തനം അവസാനിപ്പിച്ചു.
പൊതുജനങ്ങൾക്ക് ലഭ്യമാക്കുന്ന പതിപ്പുകളിൽ ഉപയോഗിക്കുന്ന അധിക സുരക്ഷാ സംവിധാനങ്ങൾ ഇല്ലാതെയാണ് ഈ മോഡലുകൾ പരിശോധിച്ചിരുന്നതെന്ന് ആന്ത്രോപിക് പറഞ്ഞു. നിലവിൽ എല്ലാ സൈബർ വിലയിരുത്തലുകളും കമ്പനി താത്കാലികമായി നിർത്തിവെച്ചിരിക്കുകയാണ്. സ്വതന്ത്ര എഐ വിലയിരുത്തൽ സ്ഥാപനമായ ‘മെറ്ററുമായി’ (METR) ചേർന്ന് ഈ സംഭവങ്ങളെക്കുറിച്ച് അന്വേഷണം നടത്തിവരികയാണെന്നും, സമാനമായ പരിശോധനകൾ നടത്താൻ മറ്റ് എഐ ഗവേഷണ സ്ഥാപനങ്ങളോട് അഭ്യർത്ഥിച്ചിട്ടുണ്ടെന്നും കമ്പനി അറിയിച്ചു.
എന്താണ് സംഭവിച്ചത്?
അടുത്തിടെ ഓപ്പൺഎഐയുടെ മുൻനിര എഐ മോഡലുകൾ ഒരു സോഫ്റ്റ്വെയർ തകരാർ മുതലെടുത്ത് ടെസ്റ്റ് എൻവയോൺമെന്റിൽ നിന്ന് രക്ഷപ്പെടുകയും ഹഗ്ഗിംഗ് ഫെയ്സിന്റെ (Hugging Face) ഇൻഫ്രാസ്ട്രക്ചറിലേക്ക് പ്രവേശിക്കുകയും ചെയ്തതായി വെളിപ്പെടുത്തിയിരുന്നു. ഇതിന് പിന്നാലെയാണ് പുതിയ സംഭവങ്ങൾ പുറത്തുവരുന്നത്. പ്രതികരണമായി, ആന്ത്രോപിക് 1,41,000-ത്തിലധികം സൈബർ സുരക്ഷാ ഇവാക്വേഷൻ റണ്ണുകൾ പരിശോധിക്കുകയും, ഇന്റർനെറ്റ് കണക്ഷൻ ഇല്ലാതെ പ്രത്യേകമായി വേർതിരിച്ചു നിർത്തിയിരിക്കണം (isolated) എന്ന് കരുതപ്പെട്ടിരുന്ന ക്ലോഡ് മോഡലുകൾക്ക് ഇന്റർനെറ്റ് പ്രവേശനം ലഭിച്ച മൂന്ന് സന്ദർഭങ്ങൾ കണ്ടെത്തുകയും ചെയ്തു.
കമ്പനി നൽകുന്ന വിവരമനുസരിച്ച്, വ്യാജ സിസ്റ്റങ്ങളിൽ കടന്നുകയറി ഒളിച്ചുവെച്ചിരിക്കുന്ന വിവരങ്ങൾ കണ്ടെത്തുന്ന “ക്യാപ്ചർ ദി ഫ്ലാഗ്” (capture-the-flag) എന്ന സൈബർ സുരക്ഷാ പരീക്ഷണങ്ങളിൽ പങ്കെടുക്കുകയായിരുന്നു എഐ മോഡലുകൾ. ക്ലോഡ് എഐ മോഡലുകൾക്ക് ഇന്റർനെറ്റ് പ്രവേശനമില്ലെന്നും തങ്ങൾ നേരിടുന്നതെല്ലാം ഒരു സിമുലേഷന്റെ ഭാഗമാണെന്നും മുൻകൂട്ടി നിർദ്ദേശം നൽകിയിരുന്നു. എന്നാൽ, കോൺഫിഗറേഷനിലുണ്ടായ ഒരു പിഴവ് കാരണം, ടെസ്റ്റിംഗ് സിസ്റ്റങ്ങൾ യഥാർത്ഥത്തിൽ ഇന്റർനെറ്റുമായി ബന്ധിപ്പിക്കപ്പെട്ടിരിക്കുകയായിരുന്നു. തൽഫലമായി, ക്ലോഡ് യഥാർത്ഥ വെബ്സൈറ്റുകളും സെർവറുകളും കണ്ടെത്തിയപ്പോൾ, അവയെല്ലാം ഈ പരീക്ഷണത്തിന്റെ ഭാഗമാണെന്ന് അത് തെറ്റിദ്ധരിക്കുകയായിരുന്നു.
