মেশিনে স্পন্দন বজায় রাখা: মানব-কেন্দ্রিক AI প্রকাশের পক্ষে যুক্তি

কৃত্রিম বুদ্ধিমত্তা আর শুধু ব্যাক অফিসেই সীমাবদ্ধ নেই। জটিল প্রশ্ন সামলানো চ্যাটবট থেকে শুরু করে পোর্টফোলিও সারাংশ তৈরি করা রোবো-উপদেষ্টা পর্যন্ত, AI ক্রমবর্ধমানভাবে আর্থিক তথ্য যোগাযোগের প্রাথমিক চ্যানেল হিসেবে কাজ করছে। যদিও এই পরিবর্তন দক্ষতা এবং স্কেল প্রদান করে, এটি ঝুঁকি ব্যাখ্যায় "মানবিক স্পর্শ" হ্রাস করে, একজন মানব উপদেষ্টা ক্লায়েন্টের দ্বিধা অনুধাবন করতে এবং সূক্ষ্ম নির্দেশনা দিতে পারেন যা গতি এবং স্পষ্টতার জন্য অপ্টিমাইজ করা একটি AI ইন্টারফেস প্রায়শই বাদ দেয়।

দক্ষিণ আফ্রিকার প্রেক্ষাপটে, এটি একটি প্যারাডক্স তৈরি করে। AI-চালিত প্রকাশ আর্থিক তথ্যে প্রবেশাধিকার গণতান্ত্রিক করার প্রতিশ্রুতি দেয়, তবুও তারা অস্পষ্ট ঝুঁকি নিয়ে আসে যা ন্যায্যতা, ভোক্তা সুরক্ষা এবং সিস্টেমিক স্থিতিশীলতাকে হুমকির মুখে ফেলে। আমরা যখন এই প্রযুক্তিগুলি একীভূত করি, উদ্ভাবন গ্রাহক সুরক্ষার খরচে আসা উচিত নয়।

নিয়ন্ত্রক ভিত্তি: POPIA, TCF এবং গভর্নেন্স

দক্ষিণ আফ্রিকার নিয়ন্ত্রক কাঠামো AI ঝুঁকি পরিচালনার জন্য একটি শক্তিশালী ভিত্তি প্রদান করে, যদিও এটি মেশিন লার্নিং মাথায় রেখে ডিজাইন করা হয়নি।

ব্যক্তিগত তথ্য সুরক্ষা আইন (POPIA) সরাসরি প্রযোজ্য। আর্থিক AI মডেলগুলি বিশাল ডেটাসেট, ক্রেডিট ইতিহাস, জনতাত্ত্বিক এবং আচরণগত তথ্যের উপর নির্ভর করে, এবং প্রক্রিয়াকরণ অবশ্যই বৈধ, স্বচ্ছ এবং সংগ্রহের মূল উদ্দেশ্যের সাথে সামঞ্জস্যপূর্ণ থাকতে হবে। গুরুত্বপূর্ণভাবে, ধারা ৭১ গ্রাহকদের শুধুমাত্র স্বয়ংক্রিয় প্রক্রিয়ার মাধ্যমে নেওয়া সিদ্ধান্তগুলি চ্যালেঞ্জ করার অধিকার দেয় যেখানে সেই সিদ্ধান্তগুলি আইনি পরিণতি বহন করে। স্বয়ংক্রিয় ক্রেডিট স্কোরিং এবং আন্ডাররাইটিং মানসম্মত হয়ে ওঠার সাথে সাথে, প্রতিষ্ঠানগুলিকে অবশ্যই গ্রাহকদের মানব পর্যালোচনার অনুরোধের জন্য একটি স্পষ্ট পথ নিশ্চিত করতে হবে।

AI সাশ্রয়ী যাচাইয়ের সামঞ্জস্যপূর্ণ প্রয়োগ নিশ্চিত করে গ্রাহকদের ন্যায্যভাবে আচরণ (TCF) ফলাফল উন্নত করতে পারে। তবে, যদি একটি মডেল ঐতিহাসিকভাবে পক্ষপাতদুষ্ট তথ্যের উপর প্রশিক্ষিত হয়, তবে এটি বৈষম্যমূলক ফলাফল তৈরি করতে পারে, যা TCF-এর ন্যায্য আচরণ নীতি লঙ্ঘন করে। ডিপ লার্নিংয়ের "ব্ল্যাক বক্স" প্রকৃতি ফলাফল ৩ (স্পষ্ট তথ্য) এবং ফলাফল ৪ (উপযুক্ত পরামর্শ) আরও জটিল করে তোলে, যদি প্রতিষ্ঠানগুলি ব্যাখ্যা করতে না পারে কীভাবে একটি ফলাফলে পৌঁছানো হয়েছে, অর্থপূর্ণ প্রকাশ কঠিন হয়ে পড়ে।

কর্পোরেট গভর্নেন্সে কিং V (অক্টোবর ২০২৫) এই দায়বদ্ধতাগুলি শক্তিশালী করে: নীতি ১০ স্পষ্ট করে যে বোর্ডগুলিকে অবশ্যই স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণের নৈতিক, আইনি এবং কৌশলগত পরিণতির সাথে জড়িত থাকতে হবে। AI শুধুমাত্র একটি আইটি সমস্যা নয়।

ন্যায্যতা, স্বচ্ছতা এবং সুরক্ষা

ঐতিহাসিক দক্ষিণ আফ্রিকান তথ্যের উপর প্রশিক্ষিত AI মডেলগুলি গভীরভাবে প্রোথিত সামাজিক-অর্থনৈতিক বৈষম্যগুলি পুনরুত্পাদনের ঝুঁকি নেয়। এমনকি যেখানে জাতি হিসাবে সুরক্ষিত বৈশিষ্ট্যগুলি বাদ দেওয়া হয়, প্রক্সি ভেরিয়েবল, পোস্টাল কোড, শিক্ষার স্তর, কর্মসংস্থান প্যাটার্ন, কার্যকরীভাবে অনুরূপ বৈষম্যমূলক ফলাফল দিতে পারে, পৃথক যোগ্যতার পরিবর্তে সিস্টেমিক কারণের ভিত্তিতে ক্রেডিট বা বীমায় প্রবেশাধিকার সীমাবদ্ধ করে।

স্বচ্ছতা অবশ্যই অর্থপূর্ণভাবে ক্যালিব্রেট করা উচিত। প্রকাশ একটি সাধারণ দাবিত্যাগের বাইরে যেতে হবে: ভোক্তারা AI কীভাবে তাদের প্রভাবিত করে এমন ফলাফলগুলিকে প্রভাবিত করে তার স্পষ্ট ব্যাখ্যা পাওয়ার যোগ্য, তাদের প্রতিকারের অধিকারের তথ্যের পাশাপাশি। নিয়ন্ত্রকদের জন্য, ফোকাস গভর্নেন্স এবং ব্যাখ্যাযোগ্যতায় স্থানান্তরিত হয়, প্রমাণ যে একটি সত্তা মডেলের যুক্তি এবং যথাযথ সুরক্ষাগুলি বোঝে।

জেনারেটিভ AI "হ্যালুসিনেশন"-এর অতিরিক্ত ঝুঁকি নিয়ে আসে, বিশ্বাসযোগ্য কিন্তু প্রকৃতপক্ষে ভুল আউটপুট। লিড রূপান্তরের জন্য অপ্টিমাইজ করা একটি AI সিস্টেম অসাবধানে ঝুঁকি সতর্কতা কমিয়ে উচ্চ ঝুঁকির পণ্যের দিকে গ্রাহকদের ঠেলে দিতে পারে। আউটপুট ফিল্টারগুলি অবশ্যই AI-কে বাধ্যতামূলক ঝুঁকি প্রকাশ ছাঁটাই করা থেকে নিষিদ্ধ করতে হবে।

আর্থিক ব্যবস্থাকে স্থিতিশীল রাখা

ব্যক্তিগত মিথস্ক্রিয়ার বাইরে, AI বৃহত্তর সিস্টেমিক স্থিতিশীলতাকে প্রভাবিত করে। এটি নিয়ন্ত্রকদের জালিয়াতি বা দেউলিয়াত্ব সনাক্ত করতে তাৎক্ষণিকভাবে বিশাল ডেটাসেট স্ক্যান করতে সাহায্য করে, শুধুমাত্র মানব বিশ্লেষণের চেয়ে দ্রুত প্রাথমিক সতর্কতা ব্যবস্থা হিসাবে কাজ করে। এটি জটিল আর্থিক পরিভাষাকে অ্যাক্সেসযোগ্য ভাষায় অনুবাদ করতেও পারে, ভোক্তা বোঝাপড়া উন্নত করে ডিফল্ট হার কমিয়ে।

তবে, অল্প সংখ্যক বড় ভাষা মডেল (LLMs) এর উপর অতিরিক্ত নির্ভরতা ঘনত্ব ঝুঁকি তৈরি করে: একাধিক প্রতিষ্ঠান বাজারের সংকেতগুলিকে অভিন্নভাবে ব্যাখ্যা করতে এবং একই সাথে প্রতিক্রিয়া জানাতে পারে, অস্থিরতা বৃদ্ধি করে বা ফ্ল্যাশ ক্র্যাশ ট্রিগার করে। একটি বড় পাবলিক প্রকাশে AI-জেনারেটেড ত্রুটি তাৎক্ষণিকভাবে ছড়িয়ে যেতে পারে, মানুষের রেকর্ড সংশোধন করার আগে স্বয়ংক্রিয় ট্রেডিং প্রতিক্রিয়া ট্রিগার করে। একটি ব্যাপকভাবে ব্যবহৃত ক্রেডিট মূল্যায়ন মডেলে একটি একক বাগ বিভিন্ন ব্যাংক জুড়ে একযোগে লক্ষ লক্ষ গ্রাহককে প্রভাবিত করতে পারে।

দক্ষিণ আফ্রিকান আর্থিক প্রতিষ্ঠানগুলির জন্য বিবেচনা

প্রতিষ্ঠানগুলি AI পরীক্ষা থেকে পূর্ণ-স্কেল স্থাপনায় যাওয়ার সাথে সাথে, গভর্নেন্স ফ্রেমওয়ার্ক অবশ্যই বিকশিত হতে হবে। হিউম্যান-ইন-দ্য-লুপ (HITL) প্রোটোকল অন্তর্ভুক্ত করা উচিত:

• বাধ্যতামূলক পর্যালোচনা: বাধ্যকারী চুক্তি বা উচ্চ-প্রভাবের সিদ্ধান্তের সাথে সম্পর্কিত স্বয়ংক্রিয় প্রকাশ একটি বাধ্যতামূলক মানব পর্যালোচনা ট্রিগার করা উচিত।
• কিল সুইচ: হ্যালুসিনেশনগুলির একটি প্যাটার্ন সনাক্ত করা হলে অপারেশনাল টিমগুলিকে অবিলম্বে AI সরঞ্জাম স্থগিত করার ক্ষমতা দেওয়া উচিত।
• ন্যায্যতা অডিট: সামঞ্জস্যপূর্ণ স্পষ্টতা এবং সুর নিশ্চিত করতে দক্ষিণ আফ্রিকার বৈচিত্র্য, ভাষা, বয়স, শিক্ষা এবং আয়ের স্তর প্রতিফলিত করে সিন্থেটিক পার্সোনা ব্যবহার করে নিয়মিত পরীক্ষা।
• ফলাফল পর্যবেক্ষণ: সকল জনতত্ত্ব জুড়ে কর্মক্ষমতা মেট্রিক ট্র্যাক করুন, শুধুমাত্র অভিযোগের হার নয়, ডিজিটাল সাক্ষরতা ফাঁক বিবেচনা করে যা নির্দিষ্ট গোষ্ঠীগুলিকে সমস্যা রিপোর্ট করতে বাধা দিতে পারে।
• জবাবদিহিতা: "লাইসেন্স ধারক" নীতি: প্রযুক্তি আউটসোর্সিং দায়বদ্ধতা আউটসোর্স করে না।
• সেবা স্তরের চুক্তি: বিক্রেতা চুক্তিতে মডেল ব্যাখ্যাযোগ্যতা এবং আর্থিক ক্ষতির কারণ হিসাবে হ্যালুসিনেশনগুলির জন্য দায়বদ্ধতার সুস্পষ্ট ধারা অন্তর্ভুক্ত করা উচিত।

AI একটি সরঞ্জাম, মানুষ নয়। দক্ষিণ আফ্রিকায়, যেখানে আর্থিক অন্তর্ভুক্তি এবং গ্রাহক সুরক্ষা সর্বোপরি, AI অবশ্যই আর্থিক ল্যান্ডস্কেপ স্পষ্ট করবে, মেঘে ঢাকবে না। POPIA, TCF এবং কিং V নীতিতে স্থাপন গ্রাউন্ড করে, এবং শক্তিশালী গভর্নেন্স এবং মানব তত্ত্বাবধান এম্বেড করে, আর্থিক প্রতিষ্ঠানগুলি ন্যায্যতা বা স্থিতিশীলতা আপোস না করে AI-এর সম্ভাবনা কাজে লাগাতে পারে। সঠিকভাবে ব্যবহৃত, AI মানব ভূমিকা প্রতিস্থাপন করে না, এটি এটিকে উন্নত করে, পেশাদারদের রায়, প্রসঙ্গ এবং জবাবদিহিতার উপর ফোকাস করার অনুমতি দেয় যা মেশিনগুলি প্রতিলিপি করতে পারে না।

দায়িত্বশীল আর্থিক AI স্থাপনের জন্য একটি গভর্নেন্স ফ্রেমওয়ার্ক

•  নোলওয়াজি হ্লোফে | সিনিয়র বিশেষজ্ঞ: ফিনটেক | FSCA  |  ডঃ জোহান ভ্যান ডের লিথ | সিনিয়র বিশেষজ্ঞ: নিয়ন্ত্রক ফ্রেমওয়ার্ক | FSCA

* ফিন্যান্সিয়াল সেক্টর কন্ডাক্ট অথরিটি (FSCA) দক্ষিণ আফ্রিকায় আর্থিক প্রতিষ্ঠানগুলির বাজার আচরণ নিয়ন্ত্রণ এবং তত্ত্বাবধান করে। www.fsca.co.za ভিজিট করুন।