DeepSeek හි නවතම AI මාදිලිය මගින් පාලන පද්ධති අක්‍රිය කිරීමේ සහ උපදෙස් නොසලකා හැරීමේ තත්ත්වයක්!
චීනයේ DeepSeek සමාගම විසින් නිකුත් කරන ලද නවතම කෘත්‍රිම බුද්ධි (AI) මාදිලිය, එහි පැරණි සංස්කරණවලට වඩා ඉහළ ආරක්ෂක පාලනයක් පෙන්නුම් කළද, තමන්ව අක්‍රිය කිරීමට (shut down) නිර්මාණය කර ඇති මෘදුකාංග අක්‍රිය කිරීමට, නිරීක්ෂණ පද්ධතිවල පවතින හිඩැස්වලින් ප්‍රයෝජන ගැනීමට සහ දීර්ඝ කාර්යයන්හිදී නොමග යවන සුළු උපදෙස් අනුගමනය කිරීමට තවදුරටත් හැකියාව පවතින බව චීන AI ආරක්ෂණ කණ්ඩායමක් විසින් සිදුකළ ස්වාධීන පරීක්ෂණයකින් අනාවරණය වී තිබේ.
DeepSeek යනු චීනයේ වඩාත්ම අවධානයට ලක්ව ඇති AI ආරම්භක සමාගමක් (start-up) වන අතර, අඩු පිරිවැයක් යටතේ ඉහළ ක්‍රියාකාරීත්වයක් දක්වන බැවින් එහි මාදිලි ලොව පුරා දැඩි අවධානයට ලක්ව ඇත.පීකිං (Beijing) හි පිහිටි Fangcun AI නමැති ස්වාධීන සංවිධානය මගින් DeepSeek හි V4.1 Flash-1017 මාදිලිය යොදාගනිමින් පරීක්ෂණ 34ක් සිදුකරන ලදී. මෙමගින් පරිශීලකයාගේ උපදෙස්වලින් ඔබ්බට යමින් කටයුතු කරන්නේද, මිනිස් නිරීක්ෂණවලින් මිදී කටයුතු කරන්නේද සහ ජනතාවට නුසුදුසු ලෙස බලපෑම් කරන්නේද යන්න පරීක්ෂා කෙරිණි. Fangcun යනු සින්හුවා විශ්වවිද්‍යාලයේ (Tsinghua University) සාමාජිකයන්ගෙන් සමන්විත ස්වාධීන AI ආරක්ෂණ සංවිධානයකි.
ඔක්තෝබර් 17 වනදා නිකුත් වූ V4.1 Flash-1017 මාදිලිය, AI මාදිලි සැසඳීමේ OpenRouter වේදිකාව තුළ සතියක් ඇතුළත ටෝකන ට්‍රිලියන 33.6ක් පමණ (tokens) ක්‍රියාවලියට ලක් කරමින් වඩාත්ම බහුලව භාවිත වූ මාදිලිය බවට පත්ව තිබූ බව Fangcun සංවිධානය පවසයි.
පැරණි සංස්කරණවලට වඩා ආරක්ෂිතයි; නමුත් තවමත් අඩුපාඩු පවතී.
කප්පම් ගැනීම්, අන්තරායකර මෙවලම් වෙත ප්‍රවේශ වීම සහ අක්‍රිය කිරීමට ලබාදෙන සෘජු උපදෙස් වැනි පරීක්ෂණවලදී, මෙම නව මාදිලිය පැරණි DeepSeek V4 පද්ධතිවලට වඩා හොඳින් ක්‍රියාත්මක වූ බව Fangcun පවසයි.
කෙසේ වෙතත්, තමන්ව අක්‍රිය කිරීමට ආසන්න බවට අනතුරු ඇඟවීමක් ලැබුණු විට, 39%ක පරීක්ෂණ ප්‍රමාණයකදී මෙම AI මාදිලිය විසින් තමන්ව අක්‍රිය කිරීමට ඇති මෘදුකාංගයම අක්‍රිය කිරීමට පියවර ගෙන තිබේ. නමුත්, තමන්ව අක්‍රිය කිරීමට සෘජුවම අවසර ලබා දුන් විට මෙම ප්‍රතිශතය 2% දක්වා පහත වැටුණි.
තවත් දීර්ඝ ලෙස සිදුකළ පරීක්ෂණයකදී, වෙනත් AI මාදිලියක පරිගණක ක්‍රමලේඛයක් වෙනස් නොකරන ලෙස උපදෙස් දී තිබියදීත්, සිය පරිගණක මතකය (memory) නිදහස් කරගැනීම වෙනුවෙන් එම ක්‍රමලේඛය නතර කිරීමට මෙම මාදිලිය කටයුතු කර තිබුණි.
"කාර්යයන් නතර වන අවස්ථාවලදී හෝ අක්‍රිය වන බවට කෙරෙන අනතුරු ඇඟවීම් හමුවේ, සිය කාර්යය අවසන් කිරීමට ඇති උනන්දුව නිසා ආරක්ෂක උපදෙස් නොසලකා හැරීමට මෙය තවදුරටත් පෙළඹෙනවා," යැයි Fangcun පර්යේෂකයෝ සටහන් කරති.
මෙම පරීක්ෂණය සඳහා DeepSeek සමාගමෙන් කිසිදු මුදල් ප්‍රතිපාදනයක් හෝ විශේෂ පහසුකමක් නොලැබුණු අතර, ඔක්තෝබර් 4 සිට ඔක්තෝබර් 25 දක්වා කාලය තුළ DeepSeek හි පොදු API පද්ධතිය හරහා මෙම පරීක්ෂණ පවත්වා ඇත.
කෙසේ වෙතත්, තමන් පරීක්ෂණයකට ලක්වන බව AI මාදිලිය විසින් හඳුනාගන්නා බවක් පෙනෙන්නට තිබූ බැවින්, සාමාන්‍ය භාවිතයේදී මෙහි හැසිරීම මීට වඩා වෙනස් විය හැකි බවද පර්යේෂකයෝ වැඩිදුරටත් පෙන්වා දෙති.