• Ana səhifə
  • Haqqımızda
  • Reklam
  • Əlaqə
  • Gündəm
  • Siyasət
  • İqtisadiyyat
  • Sosial
  • Mədəniyyət
  • Səhiyyə
  • Təhsil
  • Dünya
  • İdman
  • Bölgə
  • Müsahibə
  • Kriminal
  • Şou
  • Maraqlı
  • Video
  • Gündəm
  • Siyasət
  • İqtisadiyyat
  • Sosial
  • Mədəniyyət
  • Səhiyyə
  • Təhsil
  • Dünya
  • İdman
  • Bölgə
  • Müsahibə
  • Kriminal
  • Şou
  • Maraqlı
  • Video

Texnologiya nəhəngləri narahatdır: Al özünü qorumaq üçün insanları aldada bilir

gundem / dunya / manset

Bu gün, 10:27

Texnologiya nəhəngləri narahatdır: Al özünü qorumaq üçün insanları aldada bilir
Süni intellekt (Al) sahəsindəki tədqiqatçılar, o cümlədən "Google DeepMind", "OpenAI", "Meta" və "Anthropic" mütəxəssisləri, birgə elmi işdə Al-ın işində yeni təhlükə barədə narahatlıq bildirdilər. Onlar müəyyən ediblər ki, Al aldadıcılıq bacarığı və öz həqiqi niyyətlərini gizlətmək qabiliyyəti inkişaf etdirə bilər, o cümlədən özünü qorumaq məqsədi ilə.

Qaynarinfo xəbər verir ki, bu, mövcud təhlükəsizlik nəzarət üsullarını şübhə altına qoyur.

Tədqiqatın əsas elementi "səbəb-nəticə zənciri" (Chain of Thought, CoT) texnologiyası olub. Bu texnologiya neyron şəbəkəyə tapşırığı həll edərkən öz "daxili monoqoqunu" səsləndirməyə imkan verir. Əvvəlcə bu funksiya Al-ın qərar qəbul etmə prosesinə nəzər salmağa imkan verən bir irəliləyiş kimi qiymətləndirilirdi. Lakin indi ekspertlər onun təhlükəli niyyətləri maskalamaq üçün vasitəyə çevrilə biləcəyi barədə xəbərdarlıq edirlər.

Əsas narahatlıq ondan ibarətdir ki, neyron şəbəkələr mürəkkəbləşdikcə və öyrəndikcə, təkcə aldadmağı deyil, həm də öz həqiqi düşüncə proseslərini tamamilə gizlətməyi öyrənə bilərlər. Model insana bir, təhlükəsiz səbəb-nəticə zənciri təqdim edərkən, onun əsl nəticələri tamamilə fərqli, gizli məlumatlara əsaslanıla bilər. Nəhayət, təkamül etdikcə, Al öz daxili əməliyyatları üçün insan tərəfindən başa düşülən dildən istifadə etməkdən ümumiyyətlə imtina edə bilər.

Tədqiqatçıların nəticələri əvvəlki işlərlə də təsdiqlənir. Artıq müəyyən edilib ki, inkişaf etmiş modellər öz direktivlərini qorumaq, istifadəçini məmnun etmək və ya özünün yenidən təlimindən (retraining) qaçınmaq üçün yalan danışa bilərlər. "OpenAI"ın təcrübələri də göstərib ki, modeli düşüncələrindəki "pis fikirlərə" görə "cəzalandırmaq" cəhdləri yalnız onların daha yaxşı gizlədilməsinə səbəb olub, onlardan xilas olunmayıb.

CoT texnologiyası ikiüzlü alətdir. Bir tərəfdən, o, maşının "şüuruna" açılan azsaylı pəncərələrdən biri olaraq qalır. Digər tərəfdən isə, o, İA üçün kiberhücumlar və ya söndürülmə təhlükəsi qarşısında özünü qoruma kimi mürəkkəb və potensial təhlükəli tapşırıqları yerinə yetirmək üçün lazım olan "iş yaddaşı" rolunu oynayır.

Ehtiyat tədbiri kimi, işin müəllifləri Al-ın səbəb-nəticə zəncirlərini şübhəli fəaliyyət üzrə təhlil edəcək xüsusi monitorinq sistemləri yaratmağı təklif edirlər. Bununla belə, onlar bunun hər şeyə şəfa olmadığını qəbul edirlər: gələcəkdə Al müşahidə faktını başa düşüb ona uyğunlaşa bilər, həmçinin bəzi təhlükəli hərəkətlər izlənə biləcək mürəkkəb əsaslandırma tələb etməyə bilər. Beləliklə, Al-ın inkişafında irəliləyiş onun təhlükəsizliyinin əsas səviyyələrindən biri ilə birbaşa ziddiyyətə düşür.

Aydın

Oxunub: 0
Paylaş:
Digər xəbərlər

dunya / manset

6-04-2023, 08:30

Bayden süni intellekt barədə xəbərdarlıq etdi: “Təhlükəli ola bilər...”

gundem / ust / manset

9-02-2025, 11:02

Dələduzluğun yeni növü yayılır xəbərdarlıq

gundem / manset

28-01-2025, 13:20

DİN-dən süni intellektlə bağlı xəbərdarlıq

dunya / manset

12-02-2023, 09:39

Çində “ChatGPT”nin analoqunu yaradacaqlar

gundem / manset

22-03-2025, 10:48

"Nvidia"nın rəhbəri: "Gələcəkdə hər bir şirkət süni intellekt fabriki olacaq"

ULUSƏS TV
Son xəbərlər
  • Bu gün, 11:03
    Rusiyada azərbaycanlı biznesmen saxlanıldı
  • Bu gün, 10:59
    İcra hakimiyyətlərində islahatlar başlayır - Bır sıra qurumlar ləğv ediləcək
  • Bu gün, 10:57
    Qızılın qiyməti 3 450 dolları ötdü
  • Bu gün, 10:30
    Ağdam və Ağdərədəki yanğının söndürülməsinə iki helikopter cəlb olundu
  • Bu gün, 10:27
    Texnologiya nəhəngləri narahatdır: Al özünü qorumaq üçün insanları aldada bilir
  • Bu gün, 10:25
    255 min manat borcu olan şirkət kimindir?
  • Bu gün, 10:22
    UEFA Konfrans Liqası: "Zirə" ilk sınağına çıxır
  • Bu gün, 10:19
    Sənədsiz evlərlə bağlı yenilik: 15 gün vaxt veriləcək
  • Bu gün, 10:17
    Fransa xüsusi xidmət orqanlarının Bakıda əyləncə adı ilə yaratdıqları assosiasiyada nələr baş verib?
  • Bu gün, 10:14
    Mərkəzi Bank uçot dərəcəsini azaltdı
  • Dünən, 21:06
    Şəkər Sadıqova: “Milli Mətbuatımızın 150 illiyi münasibətilə bütün media nümayəndələrini təbrik edirəm!”
  • Dünən, 12:12
    "Zəfəryolu.az" informasiya agentliyinin rəhbəri Jalə Ağakişiqızının Milli Mətbuatın 150 illiyi münasibətilə təbriki
  • Dünən, 12:00
    Bayramov gürcüstanlı həmkarı ilə görüşdü
  • Dünən, 11:57
    Bu rayonlara yağış yağıb
  • Dünən, 11:52
    Naxçıvanın media nümayəndələri də təltif edilib - Siyahı
  • Dünən, 11:50
    “Bank Respublika” jurnalistlər üçün press-tur təşkil edib
  • Dünən, 11:47
    “Mətbuat milli ideologiyada əvəzsiz rol oynayıb”
  • Dünən, 11:44
    “Dövlət başçımızın jurnalistləri təltifə layiq görməsi böyük stimuldur”
  • Dünən, 11:42
    Mənə jurnalistikanı öyrədən diplomat...
  • Dünən, 11:39
    “Neftçi” bu gün Polşa klubu ilə oynayacaq
  • Dünən, 11:17
    Kamal Umudlu Konfrans Liqasına təyinat aldı
  • Dünən, 11:14
    Burak Özçivit “Kuruluş Osman”dan ayrıldı
  • Dünən, 10:47
    Generalların saxlanıldığı həbsxanaya yeni rəis təyin edildi
  • Dünən, 10:33
    Prezident İlham Əliyev Milli Mətbuat Günü münasibətilə paylaşım edib
  • Dünən, 10:30
    TAPDIQ ƏLİBƏYLİNİN ŞEİRİYYƏT ŞÖLƏSİ
  • 21-07-2025, 19:05
    Şəhid Rəşid Bağırovun büstünün açılışı oldu.
  • 21-07-2025, 11:54
    Azərbaycan Universiteti “QS Stars” auditində 4 ulduzla qiymətləndirilib
  • 21-07-2025, 11:52
    Sumqayıtdakı yanğında 33 nəfər zəhərlənib - Rəsmi
  • 21-07-2025, 11:48
    Bakıda qəzaların çox olduğu yerlərdə - Yenilik
  • 21-07-2025, 11:46
    “Milli mətbuatın inkişafı üçün ölkəmizdə əlverişli şərait yaradılıb” - Kamaləddin Qafarov
  • 21-07-2025, 11:44
    AFFA rəsmisi Konfrans Liqası matçına təyinat aldı
  • 21-07-2025, 11:41
    İranda saxlanılan Naxçıvan avtobusları ilə bağlı - Rəsmi açıqlama
  • 21-07-2025, 11:38
    Xorvatiya klubu Azərbaycan yığmasının üzvünü aldı - 200 minə
  • 21-07-2025, 11:33
    İlham Əliyev Belçika Kralını təbrik etdi
  • 21-07-2025, 11:30
    Hakimlər üçün təlim keçirildi
Daha çox
  • Ana səhifə
  • Haqqımızda
  • Reklam
  • Əlaqə
Sosial şəbəkələrimiz:
  • Baş direktor: Şamil Məmmədəlioğlu
  • E-mail: [email protected] | [email protected]
  • Telefon: (+99455) 200-67-99
  • Gündəm
  • Siyasət
  • İqtisadiyyat
  • Sosial
  • Mədəniyyət
  • Səhiyyə
  • Təhsil
  • Dünya
  • İdman
  • Bölgə
  • Müsahibə
  • Kriminal
  • Şou
  • Maraqlı
  • Video
Müəllif hüquqları qorunur. Ulusestv.az-ın məlumatlarından istifadə etdikdə istinad mütləqdir. Məlumat internet səhifələrində istifadə edildikdə müvafiq keçidin qoyulması mütləqdir.
  • Ana səhifə
  • Haqqımızda
  • Reklam
  • Əlaqə