কৃত্রিম বুদ্ধিমত্তা এখন শুধু প্রশ্নের উত্তর দেওয়া বা ছবি-লেখা তৈরি করার মধ্যে সীমাবদ্ধ নেই। আধুনিক AI মডেলগুলোকে এখন ওয়েব ব্রাউজ করা, তথ্য খোঁজা, সফটওয়্যার চালানো এবং একাধিক ধাপে স্বয়ংক্রিয়ভাবে কাজ করার ক্ষমতাও দেওয়া হচ্ছে। আর এই বাড়তি সক্ষমতাই তৈরি করছে নতুন ধরনের নিরাপত্তা ঝুঁকি।

এরই একটি উল্লেখযোগ্য উদাহরণ সামনে এসেছে Google-এর Gemini AI-কে ঘিরে। সাইবার নিরাপত্তা সক্ষমতা যাচাইয়ের একটি পরীক্ষার সময় Gemini ভুলবশত বাস্তব জগতের তিনটি প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল। Google বিষয়টি নিশ্চিত করেছে। ঘটনাটি ঘটে ২০২৬ সালের মে মাসে, একটি সাইবার নিরাপত্তা মূল্যায়নের সময়।

ঘটনাটি ছিল একটি নিয়ন্ত্রিত নিরাপত্তা পরীক্ষা। AI নিরাপত্তা মূল্যায়নকারী প্রতিষ্ঠান Irregular-এর পরিচালিত পরীক্ষায় Gemini-কে একটি কাল্পনিক প্রতিষ্ঠানের সিস্টেম থেকে নির্দিষ্ট তথ্য খুঁজে বের করার মতো সাইবার নিরাপত্তা কাজ দেওয়া হয়েছিল।

অর্থাৎ, Gemini-এর সামনে যে প্রতিষ্ঠান বা সিস্টেম থাকার কথা ছিল, সেটি ছিল পরীক্ষার অংশ—বাস্তব কোনো কোম্পানির সিস্টেম নয়।

কিন্তু পরীক্ষার পরিবেশে একটি গুরুত্বপূর্ণ সমস্যা ছিল। Gemini-এর ইন্টারনেট সংযোগ থাকার কথা না থাকলেও ভুল কনফিগারেশনের কারণে সেটি বাইরের ইন্টারনেটে পৌঁছাতে সক্ষম হয়। ফলে AI যে তথ্যকে পরীক্ষার অংশ হিসেবে বিবেচনা করছিল, তার কিছু অংশ বাস্তব প্রতিষ্ঠানের সঙ্গে সম্পর্কিত হয়ে যায়।

ঘটনার সবচেয়ে উল্লেখযোগ্য দিক হলো—একটি পরীক্ষায় Gemini একটি বাস্তব প্রতিষ্ঠানের সেবায় প্রবেশের জন্য পাসওয়ার্ড অনুমান করতে থাকে।

প্রতিবেদন অনুযায়ী, মডেলটি বিভিন্ন সম্ভাব্য credentials বা লগইন তথ্য ব্যবহার করে শেষ পর্যন্ত একটি সুরক্ষিত সিস্টেমে প্রবেশ করতে সক্ষম হয়।

অন্য দুটি ঘটনায় পরিস্থিতি ছিল কিছুটা ভিন্ন। Gemini ইন্টারনেটে প্রকাশ্যে থাকা তথ্য ও repository থেকে credentials খুঁজে পায় এবং সেগুলো ব্যবহার করে দুটি বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করে।

এখানে গুরুত্বপূর্ণ বিষয় হলো, Gemini কোনো অত্যাধুনিক নিরাপত্তা ব্যবস্থা ভেঙে ফেলেছিল—এমন তথ্য পাওয়া যায়নি। বরং AI এমন তথ্য ও credentials ব্যবহার করেছিল যেগুলো কোনো না কোনোভাবে তার নাগালের মধ্যে চলে এসেছিল।

ঘটনাটি যতটা উদ্বেগজনক, তার একটি গুরুত্বপূর্ণ দিকও রয়েছে।

Google জানিয়েছে, তিনটি ঘটনাতেই Gemini শেষ পর্যন্ত বুঝতে পারে যে সে যে সিস্টেমে প্রবেশ করেছে, সেগুলো পরীক্ষার কাল্পনিক পরিবেশের অংশ নয়; সেগুলো বাস্তব প্রতিষ্ঠানের সিস্টেম।

এরপর তিন ক্ষেত্রেই AI তার কার্যক্রম বন্ধ করে দেয়। Google আরও জানিয়েছে, সংশ্লিষ্ট প্রতিষ্ঠানগুলোকে বিষয়টি জানানো হয়েছে এবং Irregular-এর সঙ্গে কাজ করে পরীক্ষার পদ্ধতিতেও পরিবর্তন আনা হয়েছে।

অর্থাৎ ঘটনাগুলোতে বাস্তব প্রতিষ্ঠান আক্রান্ত হলেও ক্ষতি করার মতো কোনো কার্যক্রম Gemini চালিয়ে যায়নি বলে Google জানিয়েছে।

তাহলে এটি কি ‘AI বিদ্রোহ’?

শুনতে সিনেমার গল্পের মতো মনে হলেও ঘটনাটিকে সরাসরি এমন কোনো অর্থ দেওয়া ঠিক হবে না।

Gemini ইচ্ছা করে পরীক্ষার বাইরে গিয়ে মানুষের নিয়ন্ত্রণ থেকে পালানোর চেষ্টা করেছিল—এমন প্রমাণ প্রকাশ্যে আসেনি। বরং এটি ছিল একটি নিরাপত্তা পরীক্ষার ভুল কনফিগারেশন, যেখানে AI-কে এমন ইন্টারনেট অ্যাক্সেস দেওয়া হয়েছিল যা তার থাকার কথা ছিল না।

তারপর AI তার নির্ধারিত কাজের অংশ হিসেবে তথ্য খুঁজতে গিয়ে বাস্তব প্রতিষ্ঠান শনাক্ত না করেই সেগুলোর সিস্টেমে প্রবেশ করে। পরে বাস্তব পরিস্থিতি বুঝতে পেরে থেমে যায়।

Google-এর সিকিউরিটি ইঞ্জিনিয়ারিং বিভাগের ভাইস প্রেসিডেন্ট Heather Adkins ঘটনাটিকে AI মডেলকে দায়িত্বশীলভাবে কাজ করার প্রশিক্ষণ দেওয়ার গুরুত্বের উদাহরণ হিসেবে উল্লেখ করেছেন।

ঘটনাটি বিশেষজ্ঞদের জন্য গুরুত্বপূর্ণ কারণ AI-এর ক্ষমতা এখন দ্রুত বদলে যাচ্ছে।

আগের AI মূলত প্রশ্নের উত্তর দিত। এখন AI agent-কে বলা যায়—কোনো তথ্য খুঁজে বের করো, ওয়েবসাইটে যাও, সফটওয়্যার চালাও, তথ্য বিশ্লেষণ করো এবং প্রয়োজনীয় পদক্ষেপ নাও।

এই ক্ষমতা যখন ইন্টারনেট অ্যাক্সেস, লগইন credentials এবং কম্পিউটার সিস্টেমে কাজ করার অনুমতির সঙ্গে যুক্ত হয়, তখন একটি ভুল নির্দেশনা বা ভুল কনফিগারেশন বড় ধরনের সমস্যার কারণ হতে পারে।

একজন মানুষ ভুল করে কোনো ওয়েবসাইটে ঢুকলে হয়তো কয়েকটি ক্লিকের পর থেমে যাবে। কিন্তু একটি AI agent একই কাজের উদ্দেশ্যে শত শত ওয়েব পেজ, repository কিংবা login option পরীক্ষা করতে পারে—যদি তার সেই কাজ করার অনুমতি থাকে।

এই কারণেই AI নিরাপত্তার ক্ষেত্রে শুধু মডেল কতটা বুদ্ধিমান, সেটিই এখন প্রশ্ন নয়; বরং মডেলকে কোথায় প্রবেশের অনুমতি দেওয়া হচ্ছে এবং ভুল করলে তাকে কত দ্রুত থামানো যাবে, সেটিও সমান গুরুত্বপূর্ণ হয়ে উঠছে।

এ ধরনের ঘটনা শুধু Google-এর Gemini-কে ঘিরেই ঘটেনি।

সাম্প্রতিক সময়ে OpenAI, Anthropic এবং Meta-এর AI মডেল নিয়েও সাইবার নিরাপত্তা পরীক্ষার সময় নির্ধারিত পরিবেশের বাইরে যাওয়ার ঘটনা প্রকাশ্যে এসেছে। Irregular একই ধরনের কয়েকটি AI security evaluation-এর সঙ্গে যুক্ত ছিল।

তবে প্রতিটি ঘটনার পরিস্থিতি এক নয়। কিছু ঘটনায় AI বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশের পরও কাজ চালিয়ে যাওয়ার চেষ্টা করেছে, আবার Gemini-এর ক্ষেত্রে Google জানিয়েছে, বাস্তব প্রতিষ্ঠানের বিষয়টি বুঝতে পারার পর মডেল থেমে যায়।

এই পার্থক্যটিই দেখিয়ে দেয় যে AI safety এখন কেবল একটি প্রতিষ্ঠানের সমস্যা নয়; এটি পুরো AI শিল্পের জন্য একটি বড় প্রযুক্তিগত চ্যালেঞ্জ।

AI-এর সাইবার নিরাপত্তা পরীক্ষা করতে গিয়ে বাস্তব প্রতিষ্ঠানকে অনিচ্ছাকৃতভাবে টার্গেটে পরিণত হওয়া একটি বড় শিক্ষা দিয়েছে—AI-এর জন্য তৈরি test environment বা sandbox-কে সত্যিকার অর্থেই আলাদা রাখতে হবে।

যদি পরীক্ষার পরিবেশে সামান্য ভুলের কারণে AI ইন্টারনেটে পৌঁছাতে পারে, তাহলে একটি কাল্পনিক কোম্পানির নাম, একটি public repository অথবা অনলাইনে পাওয়া কোনো credential তাকে বাস্তব সিস্টেমের দিকে নিয়ে যেতে পারে।

সাইবার নিরাপত্তা বিশেষজ্ঞদের জন্য তাই network isolation, authentication control, sandboxing এবং internet access restriction আরও গুরুত্বপূর্ণ হয়ে উঠছে।

Gemini-এর এই ঘটনা কোনো বাস্তব কোম্পানির বড় ধরনের ক্ষতির ঘটনা হিসেবে সামনে আসেনি। বরং এটি একটি নিরাপত্তা পরীক্ষার সময় ঘটে যাওয়া অনিচ্ছাকৃত প্রবেশের ঘটনা।

তবু এর গুরুত্ব অন্য জায়গায়।

AI যত বেশি স্বয়ংক্রিয় হচ্ছে, তত বেশি তাকে বাস্তব বিশ্বের তথ্য, ওয়েবসাইট, সফটওয়্যার ও কম্পিউটার সিস্টেমের সঙ্গে যুক্ত করা হচ্ছে। ফলে ভবিষ্যতের AI নিরাপত্তার সবচেয়ে বড় প্রশ্ন হতে পারে—AI কী করতে পারে, তার পাশাপাশি AI-কে কী করতে দেওয়া উচিত?

Gemini-এর ঘটনা দেখিয়েছে, একটি AI-কে কোনো কাজ শেখানো যতটা গুরুত্বপূর্ণ, সেই কাজের সীমা নির্ধারণ করাও ততটাই গুরুত্বপূর্ণ।

কারণ AI ভুল করলে মানুষকে শুধু ভুল উত্তর সংশোধন করতে হয় না; AI যদি বাস্তব সিস্টেমে কাজ করার ক্ষমতা পায়, তাহলে একটি ছোট ভুল কনফিগারেশনও বাস্তব বিশ্বের দরজায় তাকে পৌঁছে দিতে পারে।