• Ana səhifə
  • Haqqımızda
  • Reklam
  • Əlaqə
  • Gündəm
  • Siyasət
  • İqtisadiyyat
  • Sosial
  • Mədəniyyət
  • Səhiyyə
  • Təhsil
  • Dünya
  • İdman
  • Bölgə
  • Müsahibə
  • Kriminal
  • Şou
  • Maraqlı
  • Video
  • Gündəm
  • Siyasət
  • İqtisadiyyat
  • Sosial
  • Mədəniyyət
  • Səhiyyə
  • Təhsil
  • Dünya
  • İdman
  • Bölgə
  • Müsahibə
  • Kriminal
  • Şou
  • Maraqlı
  • Video

Texnologiya nəhəngləri narahatdır: Al özünü qorumaq üçün insanları aldada bilir

gundem / dunya / manset

23-07-2025, 10:27

Texnologiya nəhəngləri narahatdır: Al özünü qorumaq üçün insanları aldada bilir
Süni intellekt (Al) sahəsindəki tədqiqatçılar, o cümlədən "Google DeepMind", "OpenAI", "Meta" və "Anthropic" mütəxəssisləri, birgə elmi işdə Al-ın işində yeni təhlükə barədə narahatlıq bildirdilər. Onlar müəyyən ediblər ki, Al aldadıcılıq bacarığı və öz həqiqi niyyətlərini gizlətmək qabiliyyəti inkişaf etdirə bilər, o cümlədən özünü qorumaq məqsədi ilə.

Qaynarinfo xəbər verir ki, bu, mövcud təhlükəsizlik nəzarət üsullarını şübhə altına qoyur.

Tədqiqatın əsas elementi "səbəb-nəticə zənciri" (Chain of Thought, CoT) texnologiyası olub. Bu texnologiya neyron şəbəkəyə tapşırığı həll edərkən öz "daxili monoqoqunu" səsləndirməyə imkan verir. Əvvəlcə bu funksiya Al-ın qərar qəbul etmə prosesinə nəzər salmağa imkan verən bir irəliləyiş kimi qiymətləndirilirdi. Lakin indi ekspertlər onun təhlükəli niyyətləri maskalamaq üçün vasitəyə çevrilə biləcəyi barədə xəbərdarlıq edirlər.

Əsas narahatlıq ondan ibarətdir ki, neyron şəbəkələr mürəkkəbləşdikcə və öyrəndikcə, təkcə aldadmağı deyil, həm də öz həqiqi düşüncə proseslərini tamamilə gizlətməyi öyrənə bilərlər. Model insana bir, təhlükəsiz səbəb-nəticə zənciri təqdim edərkən, onun əsl nəticələri tamamilə fərqli, gizli məlumatlara əsaslanıla bilər. Nəhayət, təkamül etdikcə, Al öz daxili əməliyyatları üçün insan tərəfindən başa düşülən dildən istifadə etməkdən ümumiyyətlə imtina edə bilər.

Tədqiqatçıların nəticələri əvvəlki işlərlə də təsdiqlənir. Artıq müəyyən edilib ki, inkişaf etmiş modellər öz direktivlərini qorumaq, istifadəçini məmnun etmək və ya özünün yenidən təlimindən (retraining) qaçınmaq üçün yalan danışa bilərlər. "OpenAI"ın təcrübələri də göstərib ki, modeli düşüncələrindəki "pis fikirlərə" görə "cəzalandırmaq" cəhdləri yalnız onların daha yaxşı gizlədilməsinə səbəb olub, onlardan xilas olunmayıb.

CoT texnologiyası ikiüzlü alətdir. Bir tərəfdən, o, maşının "şüuruna" açılan azsaylı pəncərələrdən biri olaraq qalır. Digər tərəfdən isə, o, İA üçün kiberhücumlar və ya söndürülmə təhlükəsi qarşısında özünü qoruma kimi mürəkkəb və potensial təhlükəli tapşırıqları yerinə yetirmək üçün lazım olan "iş yaddaşı" rolunu oynayır.

Ehtiyat tədbiri kimi, işin müəllifləri Al-ın səbəb-nəticə zəncirlərini şübhəli fəaliyyət üzrə təhlil edəcək xüsusi monitorinq sistemləri yaratmağı təklif edirlər. Bununla belə, onlar bunun hər şeyə şəfa olmadığını qəbul edirlər: gələcəkdə Al müşahidə faktını başa düşüb ona uyğunlaşa bilər, həmçinin bəzi təhlükəli hərəkətlər izlənə biləcək mürəkkəb əsaslandırma tələb etməyə bilər. Beləliklə, Al-ın inkişafında irəliləyiş onun təhlükəsizliyinin əsas səviyyələrindən biri ilə birbaşa ziddiyyətə düşür.

Aydın

Oxunub: 0
Paylaş:
Digər xəbərlər

dunya / manset

6-04-2023, 08:30

Bayden süni intellekt barədə xəbərdarlıq etdi: “Təhlükəli ola bilər...”

gundem / ust / manset

9-02-2025, 11:02

Dələduzluğun yeni növü yayılır xəbərdarlıq

gundem / manset

28-01-2025, 13:20

DİN-dən süni intellektlə bağlı xəbərdarlıq

dunya / manset

12-02-2023, 09:39

Çində “ChatGPT”nin analoqunu yaradacaqlar

gundem / manset

22-03-2025, 10:48

"Nvidia"nın rəhbəri: "Gələcəkdə hər bir şirkət süni intellekt fabriki olacaq"

ULUSƏS TV
Son xəbərlər
  • Dünən, 19:40
    Zərdab rayonu Kommunal Müəssisələr İdarəsinin iş icraçısı Məhərrəm Tapdıqov – Zərdab rayonunda şəhidlərin xatirəsinə ehtiram...
  • Dünən, 15:53
    Doğum günün mübarək hörmətli, dəyərli Hicran bacım!
  • Dünən, 12:23
    Musiqi məktəblərinə qəbul nəticələri elan olunub
  • Dünən, 12:21
    “Şərurlu İsfəndiyar” həmişə geyindiyi köynəyin - Qiymətini açıqladı
  • Dünən, 12:19
    Bu sammit 16 ildən sonra ABŞ-də keçiriləcək
  • Dünən, 12:17
    “Hindistan XİN Azərbaycanın ŞƏT-ə üzvlüyü ilə bağlı yalanlara davam edir”
  • Dünən, 12:15
    “Villasını 8 milyona satanlar da köməyinizə çata bilməyəcək...”
  • Dünən, 12:14
    90 yaşlı qadın pilləkəndən yıxılaraq öldü
  • Dünən, 12:12
    Bakı icazə verdi - Paşinyanın təyyarəsi Azərbaycandan keçdi
  • Dünən, 12:10
    “Azərbaycanla bu sahədə bir-birimizi yaxşı başa düşürük”
  • Dünən, 12:03
    Bakıdakı dəhşətli qəzada ölənlərin sayı ARTDI
  • Dünən, 11:45
    “Özünüzə hörmətiniz yoxdur?”
  • 5-09-2025, 14:12
    Qəzaya düşən qız “iPhone 14” sayəsində xilas oldu
  • 5-09-2025, 14:09
    Sabah hava yağmurlu olacaq
  • 5-09-2025, 14:07
    Azərbaycanın Rusiyadan tələb etdiyi bu deyil - Rəsmi Bakı
  • 5-09-2025, 13:48
    Prezident yol təmirinə 2 milyon manat ayırdı
  • 5-09-2025, 13:44
    Putin Türkiyədəki səfiri geri çağırdı
  • 5-09-2025, 13:28
    Naxçıvandakı ailə faciəsində - Ölənlərin adları-Yenilənib
  • 5-09-2025, 13:26
    “Hakerlər dörd aya 6 milyondan çox vəsait ələ keçirib”
  • 5-09-2025, 13:24
    Bir həftə əvvəl maşının vurduğu qadın öldü
  • 5-09-2025, 13:22
    Milli Məclisin xüsusi iclası keçiriləcək
  • 5-09-2025, 13:20
    Çimərliklərdə hava necədir?
  • 4-09-2025, 12:37
    Donnarumma “şəhərlilər”i dünyanın ən yaxşısı adlandırdı
  • 4-09-2025, 12:22
    Güclü külək əsir
  • 4-09-2025, 12:20
    Telefonda icra başçısını təhqir etdi - Cərimələndi
  • 4-09-2025, 12:18
    Zəngəzur dəhlizini müzakirə etmək üçün İrəvana gedəcəklər
  • 4-09-2025, 12:16
    Qəzaya düşən məşhur funikulyorun - Görüntüləri
  • 4-09-2025, 12:13
    Azərbaycan Mərkəzi Bankı, AzFina və PashaPay “Fintex Üfüqləri Forumu” keçirdi
  • 4-09-2025, 12:10
    Neftimiz ucuzlaşdı
  • 4-09-2025, 12:08
    Maştağada ağır qəza - 34 yaşlı qadın öldü
  • 4-09-2025, 12:01
    Sərnişinin səhhəti pisləşdi, təyyarə Bakıya eniş etdi
  • 4-09-2025, 11:03
    DÇ-2026-nın seçmə mərhələsində 8 oyun
  • 3-09-2025, 21:06
    Prezident İlham Əliyevin Çinə işgüzar səfəri başa çatıb
  • 3-09-2025, 21:03
    “Neftçi”dən ayrılan futbolçu “Sumqayıt”a keçdi
  • 3-09-2025, 21:01
    Seymur Orucov rayon ağsaqqalları ilə görüşdü
Daha çox
  • Ana səhifə
  • Haqqımızda
  • Reklam
  • Əlaqə
Sosial şəbəkələrimiz:
  • Baş direktor: Şamil Məmmədəlioğlu
  • E-mail: [email protected] | [email protected]
  • Telefon: (+99455) 200-67-99
  • Gündəm
  • Siyasət
  • İqtisadiyyat
  • Sosial
  • Mədəniyyət
  • Səhiyyə
  • Təhsil
  • Dünya
  • İdman
  • Bölgə
  • Müsahibə
  • Kriminal
  • Şou
  • Maraqlı
  • Video
Müəllif hüquqları qorunur. Ulusestv.az-ın məlumatlarından istifadə etdikdə istinad mütləqdir. Məlumat internet səhifələrində istifadə edildikdə müvafiq keçidin qoyulması mütləqdir.
  • Ana səhifə
  • Haqqımızda
  • Reklam
  • Əlaqə