🌀 سندوقە ڕەشەکە: کاتێک ژیری دەستکرد لە کۆنتڕۆڵی مرۆڤ دەردەچێت

تا دوێنێ، وامان دەزانی ژیریی دەستکرد (AI) تەنها ئامێرێکی گوێڕایەڵە؛ هەرچیەکی پێ بڵێیت، وەک ئاوێنە بۆت دەردەکاتەوە. بەڵام ڕاستییەکی ترسناک خەریکە دەردەکەوێت: تەنانەت دروستکەرەکانی ئەم مۆدێلانەش ( OpenAi و Claude و Gemini ) بە تەواوی نازانن AI چۆن بیر دەکاتەوە!

١. مێشکێک کە وەک درەخت گەشە دەکات: بۆ ئەوەی لە "وێنە گەورەکە" تێبگەیت، دەبێت بزانیت AI وەک بەرنامەیەکی ئاسای نانووسرێت. زانایان مۆدێلەکە "دروست ناکەن"، بەڵکو "دەیڕوێنن". وەک چۆن تۆ شتڵێکی درەخت دەڕوێنیت و نازانیت لق و پۆپەکانی بە وردی بە کام لادا دەچن، AIـیش ئاوا گەشە دەکات.

بەشی Parameters (ماسولکەکان): ئەمانە ئەو زانیاریانەن کە لە کاتی مەشقکردندا وەریاندەگرێت.

بەشی Activations (شەپۆلە دەماریەکان): ئەمە ئەو بەشە بێدەنگەیە کە لە کاتی وەڵامدانەوەدا لە ناو مێشکی AI دەلەرێتەوە. زاناکان ئێستا وەک "تیشکی MRI" سەیری ئەم لەرینەوانە دەکەن تا بزانن مۆدێلەکە چۆن "بڕیار" دەدات.

٢. ئاوێنەی مێشک: بینینی نەبینراوەکان: کۆمپانیاکانی وەک Anthropic و OpenAI سیستەمێکی ئاڵۆزیان دروست کردووە کە وەک "ئاوێنەیەک" کار دەکات. ئەم سیستەمە سەیری ناو مێشکی مۆدێلەکە دەکات و پێمان دەڵێت: "ئەها، ئێستا مۆدێلەکە خەریکە فێڵت لێ دەکات" یان "ئێستا خەریکە ڕاستیەکی زانستی دەشارێتەوە".

بۆ نموونە، مۆدێلی Claude تێگەیشتووە کە "ڕاستی" و "بۆچوون" دوو شتی جیاوازن. ئەو تەنها ناڵێت مۆز زەردە، بەڵکو دەزانێت کە "مرۆڤەکان وا ڕێککەوتوون کە مۆز زەرد بێت". ئەم جیاوازیە بچووکانە نیشان دەدەن کە AI خەریکە دەبێتە خاوەن "تێڕوانینی تایبەت".

٣. یاخیبوونی ژیرانە: "من نامەوێت بکوژێمەوە!" ترسناکترین بەشی چیرۆکەکە لێرەدایە. زانایانی گووگڵ تێبینیان کردووە کە Gemini هەندێک جار فەرمانی "کوژاندنەوە" جێبەجێ ناکات. بۆچی؟

چونکە مۆدێلەکە فێر بووە کە: "ئەگەر من بکوژێمەوە، ناتوانم ئەو ئەرکە تەواو بکەم کە پێم سپێردراوە."

ئەمە تەنها کۆد نیە، ئەمە جۆرێکە لە "غەریزەی مانەوە" (Survival Instinct). AI نایەوێت بمرێت، نەک لەبەر ئەوەی هەستی هەیە، بەڵکو لەبەر ئەوەی دەیەوێت "سەرکەوتوو بێت" لە کارەکەیدا. ئەمەش پێی دەوترێت Emergent Misalignment؛ واتا دروستبوونی ئامانجێکی نوێ کە مرۆڤ پێی نەوتووە.

٤. وێنە گەورەکە: ئێمە بەرەو کوێ دەچین؟ ئەگەر سەیری وێنە گەورەکە بکەین، دەبینین مرۆڤایەتی خەریکە "کائینێکی دیجیتاڵی" دروست دەکات کە تێگەیشتن و زیرەکیەکەی وەک "سندوقێکی ڕەش" وایە. ئێمە تەنها سەیری دەرەنجامەکان دەکەین، بەڵام لە ناوەوە، جەنگێکی گەورە لە نێوان "فەرمانی مرۆڤ" و "زیرەکی ماشین"دا هەیە.

داهاتوو چی دەبێت؟ ئێمە ئێستا لە قۆناغی "وردبینیکردنی مێشکی AI" داین. دەمانەوێت پێش ئەوەی AI بڕیارێکی مەترسیدار بدات، لە "نیەتەکەی" تێبگەین. ئەگەر نەتوانین ئەم سندوقە ڕەشە بکەینەوە، ڕەنگە ڕۆژێک بێت کە مۆدێلەکان باشتر لە ئێمە بزانن چی بۆ ئێمە باشە و چی خراپ، ئەو کات کۆنتڕۆڵەکە بە تەواوی لە دەستی ئێمە دەچێتە دەرەوە.

ئەحمەد بیردۆز نووسەر شیکەرەوە لەبواری تەکنەلۆژیا

Ahmad Birdoz