আপনি কীভাবে বিচার করবেন যে একটি এআই উত্তর বিশ্বাসযোগ্য, বিশেষ করে প্রোডাকশন কোডের জন্য?

Question

Accepted Answer

একটি এআই উত্তরকে **একজন জ্ঞানী কিন্তু অবিশ্বাস্য সহকর্মীর কাছ থেকে আত্মবিশ্বাসী খসড়া** হিসাবে বিবেচনা করুন: উপকারী, প্রায়শই সঠিক, কিন্তু নিজে থেকে কখনও কর্তৃত্বপূর্ণ নয়। বিশ্বাস *যাচাইকরণ* থেকে আসে, আউটপুট কতটা প্রভাবশালী শোনায় তা থেকে নয়।

## মূল মানসিকতা

**আত্মবিশ্বাস সঠিকতার সাথে সম্পর্কিত নয়।** একটি এলএলএম তরল পাঠ্য তৈরি করে তা সত্য কিনা (এটি একটি পরবর্তী-টোকেন প্রেডিক্টর, তথ্য সংরক্ষণাগার নয়)। একটি হ্যালুসিনেটেড এপিআই এবং একটি বাস্তব একটি অভিন্ন পড়ে। তাই আপনি টোন দ্বারা বিশ্বাস বিচার করতে পারবেন না — শুধুমাত্র যা আপনি নিশ্চিত করতে পারেন তা দ্বারা।

## একটি ব্যবহারিক চেকলিস্ট

- **এটি চালান।** কোডের জন্য, সবচেয়ে শক্তিশালী সংকেত হল এক্সিকিউশন: পরীক্ষা, টাইপ চেকার, লিন্টার, কম্পাইলার। যে কোড একটি প্রকৃত পরীক্ষা স্যুট পাস করে তা কেবল সঠিক দেখায় এমন কোডের চেয়ে অনেক বেশি বিশ্বাসযোগ্য।
- **হ্যালুসিনেটেড এপিআইগুলি পরীক্ষা করুন।** যাচাই করুন যে প্রতিটি ফাংশন, পদ্ধতি, ফ্ল্যাগ এবং আমদানি সত্যিই বিদ্যমান — ডক্স বা ইনস্টল করা সংস্করণে, স্মৃতি থেকে নয়। উদ্ভাবিত-কিন্তু-বাস্তবসম্মত এপিআইগুলি ক্লাসিক ব্যর্থতা।
- **কর্তৃপক্ষপূর্ণ উত্সগুলির বিপরীতে যাচাই করুন।** অফিসিয়াল ডক্স, মান, বা সোর্স কোডের বিপরীতে দাবিগুলি ক্রস-চেক করুন — মডেলের নিজের পুনর্বিবৃতির বিপরীতে নয়।
- **প্রান্তিক ক্ষেত্রে এবং নিরাপত্তা সম্পর্কে যুক্তি দিন।** নাল/খালি ইনপুট, সমসাময়িকতা, ত্রুটি পথ, ইনজেকশন, অনুমোদন। এআই প্রায়শই সুখী পথ পরিচালনা করে এবং বিপজ্জনক কোণগুলি বাদ দেয়।
- **যা আপনি নিশ্চিত করতে পারেন তা পছন্দ করুন।** এমন পদ্ধতিগুলি পছন্দ করুন যা আপনি পরীক্ষা করতে বা দেখতে পারেন বিশ্বাসের উপর নির্ভরশীল গোপনীয় কিন্তু অস্পষ্টগুলির উপর।
- **গুরুত্বপূর্ণ পথগুলির জন্য মানব পর্যালোচনার প্রয়োজন।** প্রামাণিকতা, পেমেন্ট, ডেটা মুছুন, মাইগ্রেশন, অবকাঠামো — একজন মানুষ যিনি সিস্টেমটি বোঝেন তিনি অবশ্যই অনুমোদন দেবেন, উত্তরটি কত ভাল দেখায় তার নির্বিশেষে।

## একটি দ্রুত নিয়ম

```text
Verifiable + verified        → trust
Verifiable + not yet checked → verify before using
Not verifiable               → don't depend on it
```

## এটি কেন গুরুত্বপূর্ণ

প্রোডাকশনে, একটি ভুল উত্তর যা *সঠিক* দেখায় তা একটি স্পষ্টভাবে ভাঙা চেয়ে বেশি বিপজ্জনক, কারণ এটি কেটে যায়। যেহেতু এআই আরও বেশি কোড লেখে, বটলনেক *তৈরি* করা থেকে *যাচাই* করার দিকে সরে যায়। সিনিয়র বিচার ঠিক এই: এটি জানা যে প্রবাহিততা প্রমাণ নয়, যে **মডেলের আত্মবিশ্বাস সঠিকতা সম্পর্কে কোনও তথ্য বহন করে না**, এবং যে বিশ্বাস অবশ্যই পরীক্ষা, উত্স এবং যা গুরুত্বপূর্ণ তাতে মানব পর্যালোচনার মাধ্যমে অর্জন করতে হবে। যারা নির্ভরযোগ্য থাকে তারা সেই প্রকৌশলী যারা বিশ্বাস করার চেয়ে যাচাই করে।