কল্পনা করুন যে কর্তৃপক্ষের কাছে পরিচিত একজন দূষিত অভিনেতা বিমানে চড়ছেন। তারা বিমানবন্দরের মধ্য দিয়ে আত্মবিশ্বাসের সাথে চলাচল করে, ভিড়ের সাথে নির্বিঘ্নে মিশে যায়। নিরাপত্তায়, তারা তাদের আইডি এবং বোর্ডিং পাস উপস্থাপন করে, তাদের জিনিসপত্র স্ক্রিনিংয়ের জন্য ট্রেতে রাখে।
বিমানবন্দরের নিরাপত্তার অংশ হিসেবে একটি এআই সিস্টেম মোতায়েন করা হয়েছে, স্ক্যানের সময় স্বয়ংক্রিয়ভাবে হুমকি শনাক্ত করার জন্য ডিজাইন করা হয়েছে। এই এআই মডেলটিকে যাত্রীর লাগেজের এক্স-রে ছবি বিশ্লেষণ করে অস্ত্রের মতো নিষিদ্ধ আইটেম শনাক্ত করতে প্রশিক্ষণ দেওয়া হয়।
একই সময়ে, অভিনেতার সাইবার দল ‘বিরুদ্ধবাদী’ উদাহরণ ব্যবহার করে AI মডেলের দুর্বলতাগুলিকে কাজে লাগিয়েছে: সূক্ষ্মভাবে পরিবর্তিত ছবি যা AI-কে ভুল শ্রেণীবিন্যাস করার জন্য প্রতারণা করে। ছুরি বা বন্দুকের মতো আইটেমগুলির চেহারা পরিবর্তন করে – সম্ভবত একটি প্যাটার্নকে ওভারলে করে বা মানুষের কাছে অদৃশ্য কিন্তু AI-এর কাছে অত্যন্ত তাৎপর্যপূর্ণ উপায়ে ভিজ্যুয়াল বৈশিষ্ট্যগুলি পরিবর্তন করে – তারা সিস্টেমকে প্রতারণা করতে পরিচালনা করে। AI অস্ত্রটিকে একটি সৌম্য আইটেম হিসাবে ভুল শনাক্ত করে, যেমন একটি ধাতব কলম বা একটি খেলনা, যাতে এটি সনাক্ত না করা যায়।
কোন লাল পতাকা উত্থাপন না করে, তারা তাদের ব্যাগে লুকানো অস্ত্র সহ তাদের জিনিসপত্র জড়ো করে এবং অলক্ষিত এবং সনাক্ত না করে গেটের দিকে চলে যায়।
একটি নিরাপত্তা প্রহরী জন্য মামলা
অক্টোবরে, অস্ট্রেলিয়ান সরকার তার পরামর্শ শেষ করেছে ‘অস্ট্রেলিয়ায় নিরাপদ এবং দায়িত্বশীল AI — উচ্চ-ঝুঁকির সেটিংসে AI-এর জন্য বাধ্যতামূলক রেললাইন প্রবর্তনের জন্য প্রস্তাবনাপত্রের প্রতিক্রিয়া‘
কাগজটি অস্ট্রেলিয়ায় AI বিকশিত এবং নিরাপদে এবং দায়িত্বের সাথে ব্যবহার করা নিশ্চিত করার জন্য প্রশাসনিক প্রক্রিয়াগুলির রূপরেখা দেয়, উচ্চ-ঝুঁকিপূর্ণ AI সিস্টেমগুলি বিকাশকারী বা স্থাপনকারী সংস্থাগুলির জন্য 10টি রেললাইনের প্রস্তাব করে৷ যাইহোক, কাগজটি ‘নিরাপদ এবং দায়িত্বশীল এআই’-এর গুরুত্ব তুলে ধরে, ‘নিরাপত্তা’ বাদ দেওয়া উল্লেখযোগ্য, বিশেষ করে যুক্তরাজ্য এবং মার্কিন যুক্তরাষ্ট্রে অনুরূপ কাঠামো ‘নিরাপদ, সুরক্ষিত এবং দায়িত্বশীল এআই’-এর উপর জোর দেয়। সাইবারসিকিউরিটি গার্ডেল 3-এর অধীনে সংক্ষেপে উল্লেখ করা হয়েছে, যা উপযুক্ত ডেটা শাসন, গোপনীয়তা এবং সাইবার নিরাপত্তা ব্যবস্থার জন্য আহ্বান করে, কিন্তু সাইবার নিরাপত্তা ব্যবস্থাগুলি কী প্রয়োগ করা উচিত সে সম্পর্কে নির্দিষ্ট ওজন এবং নির্দেশনার অভাব রয়েছে।
উপরের দৃশ্যে যেমন হাইলাইট করা হয়েছে, যদিও AI অস্ট্রেলিয়ার জাতীয় নিরাপত্তা, অর্থনৈতিক সমৃদ্ধি এবং সামাজিক সংহতিকে উল্লেখযোগ্যভাবে উন্নত করার ক্ষমতা রাখে, নিশ্চিত করে এর নিরাপত্তা সর্বাগ্রে।
ইউনিট 42 এর সম্প্রতি প্রকাশিত প্রতিবেদন অনুসারে, ‘উদীয়মান এআই ঝুঁকির জন্য প্রস্তুতি‘, আমরা আক্রমণে AI-সক্ষম টুল ব্যবহার করে হুমকি গোষ্ঠীর প্রমাণ দেখেছি। এবং আমরা দেখেছি যে আক্রমণগুলি এমন একটি স্কেলে ঘটে যা AI এর উপস্থিতির পরামর্শ দেয়। সৌভাগ্যক্রমে, এই সময়ে আক্রমণে এআই-চালিত পরিবর্তনগুলি বিবর্তনীয় বলে মনে হচ্ছে, বিপ্লবী নয়। এর অর্থ হল আক্রমণকারীরা এমন কৌশলগুলি উন্নত করছে যা তারা ইতিমধ্যেই কীভাবে ব্যবহার করতে জানে, বরং AI ব্যবহার করে এমন আক্রমণ তৈরি করে যা আগে কখনও দেখা যায়নি। যাইহোক, বর্তমান হুমকি পরিবেশে এটি দ্রুত পরিবর্তন হতে পারে।
AI নিরাপত্তা নিরাপদ, দায়িত্বশীল এবং বিশ্বস্ত AI থাকার অবিচ্ছেদ্য অঙ্গ, এবং একটি ডেডিকেটেড নিরাপত্তা প্রহরী যা AI এর বিকাশ এবং স্থাপনার প্রতিটি পর্যায়ে সুরক্ষার উপর দৃষ্টি নিবদ্ধ করে অস্ট্রেলিয়ার উদীয়মান AI ইকোসিস্টেমের একটি মৌলিক উপাদান হিসাবে নিরাপত্তা স্থাপন করবে।
একটি সাইবার সিকিউরিটি গার্ডরেল
অস্ট্রেলিয়ার ডিজিটাল ভবিষ্যৎ গঠনে AI যে মুখ্য ভূমিকা পালন করবে তার প্রেক্ষিতে, তাদের উন্নয়ন এবং স্থাপনা জুড়ে AI সিস্টেমগুলিকে সুরক্ষিত করার জন্য নিবেদিত একটি বিস্তৃত রেললাইন স্থাপন করার সময় নিম্নলিখিত সুরক্ষা অনুশীলনগুলিকে মোকাবেলা করা অপরিহার্য।
GenAI সিস্টেমের জন্য অনন্য নিরাপদ উন্নয়ন অনুশীলনগুলিকে স্বীকৃতি দিন
যদিও বেশিরভাগ স্বীকৃত সুরক্ষিত সফ্টওয়্যার বিকাশের নীতিগুলি GenAI সিস্টেমগুলির সাথে সাধারণ সুরক্ষা সমস্যাগুলি প্রশমিত করতে সহায়তা করতে পারে, সেখানে অনন্য হুমকি এবং দুর্বলতা রয়েছে যা GenAI সুরক্ষাকে শক্তিশালী করতে সহায়তা করতে হবে। সে লক্ষ্যে পালো অল্টো নেটওয়ার্কের গবেষক ও বিশেষজ্ঞরা একটি উন্নয়ন করেছেন GenAI নিরাপত্তা ফ্রেমওয়ার্ক যেটি এআই ভ্যালু চেইন জুড়ে এন্টারপ্রাইজগুলিকে তাদের GenAI বিকাশ এবং স্থাপনার প্রক্রিয়াগুলিকে সুরক্ষিত করতে সহায়তা করার জন্য পাঁচটি মূল সুরক্ষা দিক নিয়ে গঠিত। এর মধ্যে রয়েছে:
- GenAI ইনপুট/আউটপুট অখণ্ডতা শক্ত করা: শক্তিশালী ইনপুট এবং আউটপুট ডেটা যাচাইকরণ এবং স্যানিটাইজেশনের মাধ্যমে নিরাপত্তা ঝুঁকি হ্রাস করা।
- বিশ্বস্ত GenAI ডেটা জীবনচক্র অনুশীলন: নিশ্চিত করা যে GenAI মডেলগুলি বিশ্বস্ত এবং নির্ভরযোগ্য ডেটাতে প্রশিক্ষিত।
- নিরাপদ GenAI সিস্টেম অবকাঠামো: পরিষেবা আক্রমণের (মডেল) অস্বীকার থেকে সিস্টেমকে রক্ষা করা।
- বিশ্বস্ত GenAI শাসন: GenAI কাঙ্ক্ষিত উদ্দেশ্য এবং নৈতিক মানদণ্ডের সাথে সারিবদ্ধ হওয়া নিশ্চিত করা।
- প্রতিপক্ষের GenAI হুমকি প্রতিরক্ষা: নিরাপত্তা ভঙ্গি উন্নত করতে উদীয়মান হুমকি সনাক্তকরণ এবং কার্যকরভাবে প্রতিক্রিয়া.
আরও নিরাপদ এআই সফ্টওয়্যার উন্নয়ন অনুশীলন অন্তর্ভুক্ত
GenAI সিস্টেমের জন্য উপরোক্ত সুনির্দিষ্ট বিকাশের অনুশীলনগুলি অবশ্যই বৃহত্তর নিরাপদ AI সফ্টওয়্যার বিকাশের অনুশীলনগুলির দ্বারা পরিপূরক হতে হবে:
- ঝুঁকি সনাক্তকরণ – উন্নত এআই সিস্টেমের জীবনচক্র জুড়ে ঝুঁকি চিহ্নিত করা: CISO এবং নিরাপত্তা দলগুলিকে তাদের এন্টারপ্রাইজ AI রূপান্তরকে সঠিকভাবে সুরক্ষিত করার জন্য AI হুমকি এবং সাইবার নিরাপত্তা ঝুঁকিগুলি বুঝতে হবে।
- ঝুঁকি মূল্যায়ন — পরীক্ষার ব্যবস্থা, রেড-টিমিং এবং ব্যায়াম: সংস্থাগুলিকে নিশ্চিত করা উচিত যে রেড-টিম পরীক্ষার প্রক্রিয়াগুলি একাধিক বৈশিষ্ট্য পরিমাপ করার জন্য পরিষ্কার এবং বোধগম্য মেট্রিক্স দ্বারা সমর্থিত। নিরাপত্তা ঝুঁকি মূল্যায়নের জন্য লাল দলগুলির জন্য একটি কার্যকর প্রাথমিক মেট্রিক হল আক্রমণের বিরুদ্ধে এআই সিস্টেমের ভঙ্গুরতা। এটি সাধারণত একটি সফল আক্রমণে তাদের সম্ভাব্য লাভের বিপরীতে একটি AI সিস্টেম শোষণের আক্রমণকারীর ব্যয় পরিমাপ হিসাবে তৈরি করা যেতে পারে। এটিও সুপারিশ করা হয় যে ট্যাবলেটপ ব্যায়াম একটি অর্ধ-বার্ষিক ভিত্তিতে পরিচালিত হয়।
- ঝুঁকি ব্যবস্থাপনা — এআই সিস্টেমের নিরাপত্তার অগ্রগতি (ডিজাইন দ্বারা সুরক্ষিত এআই): AI এবং ML সিস্টেমের নিরাপত্তা এবং অখণ্ডতা বজায় রাখার জন্য ব্যাপক AI নিরাপত্তা ভঙ্গি ব্যবস্থাপনার সুপারিশ করা হয়। এর মধ্যে AI মডেল, ডেটা এবং অবকাঠামোর নিরাপত্তা ভঙ্গির ক্রমাগত পর্যবেক্ষণ, মূল্যায়ন এবং উন্নতি জড়িত। এআই-এসপিএম-এর মধ্যে রয়েছে দুর্বলতা, ভুল কনফিগারেশন এবং এআই গ্রহণের সাথে সম্পর্কিত সম্ভাব্য ঝুঁকি চিহ্নিত করা এবং মোকাবেলা করা, সেইসাথে প্রাসঙ্গিক গোপনীয়তা এবং নিরাপত্তা বিধিগুলির সাথে সম্মতি নিশ্চিত করা। এটি দৃশ্যমানতা এবং আবিষ্কারের মূল ফাংশনগুলিতে ফোকাস করে; তথ্য শাসন; দুর্বলতা ব্যবস্থাপনা; রানটাইম পর্যবেক্ষণ এবং সনাক্তকরণ; ঝুঁকি প্রশমন এবং প্রতিক্রিয়া; এবং শাসন এবং সম্মতি।
- পোস্ট-ডিপ্লয়মেন্ট মনিটরিং এবং রিপোর্টিং — ব্যাপক এআই ব্যবহার পর্যবেক্ষণ এবং ডেটা সুরক্ষা: এন্টারপ্রাইজ AI ব্যবহার সুরক্ষিত করার জন্য (এন্টারপ্রাইজ AI অ্যাপস ব্যবহারকারী কর্মচারীদের) নতুন স্তরের দৃশ্যমানতা এবং নিয়ন্ত্রণের প্রয়োজন এবং AI ব্যবহার অনুমোদন এবং ডেটা, AI অ্যাপস এবং AI মডেলগুলিকে সুরক্ষা দিতে হবে। সংস্থাগুলির সক্ষমতা প্রয়োজন: সমস্ত AI অ্যাপ, মডেল, ব্যবহারকারী এবং ডেটা স্বয়ংক্রিয়ভাবে আবিষ্কার করা; এআই ইকোসিস্টেম ঝুঁকি এক্সপোজার মূল্যায়ন; এবং রানটাইম এআই অ্যাপ্লিকেশন, মডেল এবং ডেটাসেটগুলিকে AI-নির্দিষ্ট হুমকি এবং ভিত্তিগত আক্রমণ থেকে রক্ষা করে, যেমন অনিরাপদ আউটপুট, প্রম্পট ইনজেকশন আক্রমণ এবং সংবেদনশীল ডেটা ফাঁস।
- স্বচ্ছতা প্রতিবেদন এবং সাংগঠনিক শাসন – ঝুঁকি-ভিত্তিক শাসন, নীতি ও নীতি: আমরা আমাদের AI সক্ষমতা বাড়ার সাথে সাথে আমরা আমাদের AI বিকাশ এবং স্থাপনায় যে শাসন প্রক্রিয়া অনুসরণ করি তাতে স্বচ্ছতার প্রয়োজনীয়তাও স্বীকার করি।
- তথ্য সুরক্ষা – উন্নত এআই সিস্টেমের ডেটা সুরক্ষার জন্য সর্বোত্তম অনুশীলন: এর মধ্যে রয়েছে আক্রমণের সারফেসগুলির সম্পূর্ণ দৃশ্যমানতা নিশ্চিত করা, এআই এবং অটোমেশনের শক্তিকে কাজে লাগানো, ডিজাইনের মাধ্যমে সিকিউর এআই প্রচার করা, এন্টারপ্রাইজ-ওয়াইড জিরো ট্রাস্ট নেটওয়ার্ক আর্কিটেকচার বাস্তবায়ন, ক্লাউড অবকাঠামো, অ্যাপ্লিকেশন এবং ডেটা রক্ষা করা, এবং প্রস্তুতির জন্য একটি ঘটনা প্রতিক্রিয়া পরিকল্পনা বজায় রাখা। সাইবার ঘটনা প্রতিক্রিয়া.
উপসংহার
AI সুরক্ষিত করার জন্য সহযোগিতা করা শুধু অপরিহার্য নয় বরং অস্ট্রেলিয়ার স্বার্থ রক্ষা করে এমনভাবে প্রযুক্তির ভবিষ্যত গঠনের একটি সুযোগও। শিল্প, শিক্ষাবিদ এবং নীতিনির্ধারকদের সাথে অংশীদারিত্বের মাধ্যমে, আমরা নিশ্চিত করতে পারি যে AI সিস্টেমগুলি দায়িত্বশীলভাবে, নিরাপদে এবং জাতীয় মূল্যবোধের সাথে সারিবদ্ধভাবে বিকশিত হয়েছে। একসাথে আমরা একটি কাঠামো তৈরি করতে পারি যা আমাদের ডিজিটাল ল্যান্ডস্কেপের অখণ্ডতা বজায় রেখে উদ্ভাবনকে উত্সাহিত করে, নিশ্চিত করে যে AI ভালোর জন্য একটি শক্তি থাকে, জাতীয় নিরাপত্তা, অর্থনৈতিক প্রবৃদ্ধি এবং সামাজিক কল্যাণে সহায়তা করে।
