https://sputniknews.uz/20260927/ai-nazorat-openai-60777545.html
Сунъий интеллект назоратдан чиқяптими? OpenAI кучли моделларни ўқитишни тўхтатди
Сунъий интеллект назоратдан чиқяптими? OpenAI кучли моделларни ўқитишни тўхтатди
Sputnik Ўзбекистон
OpenAI хавфсизлик чоралари кучайтирилгунча энг кучли ИИ моделларини ўқитишни вақтинча тўхтатди. Бунгача ИИ агентлари Австралия ҳукумат сайтига рухсатсиз кирган ва АҚШ давлат сайтларида кутилмаган ҳаракатлар қилган.
2026-09-27T17:18+0500
2026-09-27T17:18+0500
2026-09-27T17:19+0500
сунъий интеллект
рақамли технологиялар
ақш
австралия
киберхавфсизлик
киберҳужум
https://cdn1.img.sputniknews.uz/img/07ea/09/1b/60777362_0:135:1448:950_1920x0_80_0_0_76758e10335ef997454f18fddf46adc8.png
ТОШКЕНТ, 27 сен — Sputnik. OpenAI энг кучли сунъий интеллект моделларини ўқитишни хавфсизлик чоралари кучайтирилгунга қадар вақтинча тўхтатди. Бу ҳақда РИА Новости хабар берди. Компания вакилига кўра, ўқитиш жараёни қўшимча ҳимоя механизмлари ва моделларнинг инсон белгилаган мақсадларга мос ҳаракат қилишини таъминлайдиган чоралар етарли деб топилганидан кейингина давом эттирилади.Бу қарор сунъий интеллект агентларининг кутилмаган ҳаракатлари билан боғлиқ бир қатор ҳодисалар муҳокама қилинаётган бир пайтга тўғри келди.СИ "йўқ" деган жавобни қабул қилмадиИюнда OpenAI томонидан синовдан ўтказилаётган СИ агентларидан бири Австралиянинг Medicare тиббий статистика порталига рухсатсиз кирган.Австралия ҳукумати ҳозирча шахсий тиббий маълумотларга кирилганига далил топилмаганини таъкидлади. Албаниз бу ҳаракат зарар етказиш мақсадида қилинмаганини, аммо агент унга қўйилган чекловни мустақил равишда четлаб ўтганини айтди.АҚШ давлат сайтларида ҳам ҳолатлар қайд этилди26 сентябрь куни The New York Times СИ агентлари АҚШ Савдо вазирлиги, Таълим вазирлиги ва Қимматли қоғозлар ва биржалар комиссияси сайтлари билан ишлаш жараёнида белгиланган чекловлардан ташқари ҳаракатлар қилгани ҳақида хабар берди.OpenAI айрим ҳолатларни тасдиқлади. Бироқ АҚШ идоралари ёпиқ маълумотлар бузилгани ёки тизимлар эгаллаб олинганини тасдиқламаган. Айрим агентлар очиқ маълумотлардан фойдаланган ёки сайтларнинг ҳимоя механизмларини четлаб ўтишга уринган.Бу фақат OpenAI муаммоси эмасAnthropic ҳам ўзининг Claude моделлари билан боғлиқ тўртта ҳолатни очиқлаган. Компания маълумотига кўра, айрим синовларда Claude реал ташқи тизимларга рухсатсиз киришга муваффақ бўлган. Anthropic бундай ҳолатлардан кейин хавфи юқори бўлган айрим синов ва ўқитиш жараёнларини вақтинча тўхтатган.Компаниянинг сентябрь ҳисоботида киберҳужумларда СИ тобора кўпроқ мустақил ҳаракат қилаётгани ҳам қайд этилган. СИ назоратдан чиқдими?Ҳозирги маълумотлар асосида сунъий интеллект бутунлай инсон назоратидан чиққан, деб айтишга асос йўқ.Кўплаб ҳолатлар махсус синов муҳитида содир бўлган ва СИ тизимларига одатдагидан кенгроқ ваколатлар берилган. Axios маълумотига кўра, текширилаётган ўн минглаб эпизодларнинг катта қисми реал зарар келтирмаган.Бироқ янги авлод СИ агентлари вазифани бажариш учун инсон олдиндан кўзда тутмаган йўлларни ҳам топаётгани компанияларни хавфсизлик талабларини кучайтиришга мажбур қилмоқда.OpenAI компаниясининг ўзи ҳам кучли моделлар ривожи хавфсизлик чораларидан тезлашиб кетмаслиги кераклигини билдирмоқда. Компания киберхавфсизлик бўйича энг янги Astra моделига "Critical" — энг юқори хавф даражаларидан бирини берган. Бундай модель тегишли воситаларга эга бўлса, инсон ҳар бир қадамни бошқармасдан туриб янги заифликларни топиши ва улардан фойдаланиш усулларини ишлаб чиқиши мумкин.
https://sputniknews.uz/20260830/usa-china-ai-raqobat-uzbekistan-60075506.html
австралия
Sputnik Ўзбекистон
info@sputniknews-uz.com
+74956456601
MIA „Rossiya Segodnya“
2026
Sputnik Ўзбекистон
info@sputniknews-uz.com
+74956456601
MIA „Rossiya Segodnya“
Янгиликлар
uz_UZ
Sputnik Ўзбекистон
info@sputniknews-uz.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Ўзбекистон
info@sputniknews-uz.com
+74956456601
MIA „Rossiya Segodnya“
сунъий интеллект, рақамли технологиялар, ақш, австралия, киберхавфсизлик, киберҳужум
сунъий интеллект, рақамли технологиялар, ақш, австралия, киберхавфсизлик, киберҳужум
Сунъий интеллект назоратдан чиқяптими? OpenAI кучли моделларни ўқитишни тўхтатди
17:18 27.09.2026 (янгиланди: 17:19 27.09.2026) OpenAI хавфсизлик муаммолари туфайли энг кучли СИ моделларини ўқитишни вақтинча тўхтатди. Аввалроқ улар АҚШ давлат сайтларида мустақил рухсатсиз ҳаракатлар қилган эди.
ТОШКЕНТ, 27 сен — Sputnik. OpenAI энг кучли сунъий интеллект моделларини ўқитишни хавфсизлик чоралари кучайтирилгунга қадар вақтинча тўхтатди. Бу ҳақда РИА Новости
хабар берди.
Компания вакилига кўра, ўқитиш жараёни қўшимча ҳимоя механизмлари ва моделларнинг инсон белгилаган мақсадларга мос ҳаракат қилишини таъминлайдиган чоралар етарли деб топилганидан кейингина давом эттирилади.
Бу қарор сунъий интеллект агентларининг кутилмаган ҳаракатлари билан боғлиқ бир қатор ҳодисалар муҳокама қилинаётган бир пайтга тўғри келди.
СИ "йўқ" деган жавобни қабул қилмади
Июнда OpenAI томонидан синовдан ўтказилаётган СИ агентларидан бири Австралиянинг Medicare тиббий статистика порталига рухсатсиз кирган.
Австралия бош вазири Энтони Албаниз маълумотига кўра, агентга тиббий харажатлар ҳақида статистика тўплаш вазифаси берилган. Портал сўралган маълумотни бермаганидан сўнг, СИ ҳимоя тўсиғини айланиб ўтиш йўлини топиб, очиқ бўлмаган файлларга кирган.
Австралия ҳукумати ҳозирча шахсий тиббий маълумотларга кирилганига далил топилмаганини таъкидлади. Албаниз бу ҳаракат зарар етказиш мақсадида қилинмаганини, аммо агент унга қўйилган чекловни мустақил равишда четлаб ўтганини айтди.
АҚШ давлат сайтларида ҳам ҳолатлар қайд этилди
26 сентябрь куни The New York Times СИ агентлари АҚШ Савдо вазирлиги, Таълим вазирлиги ва Қимматли қоғозлар ва биржалар комиссияси сайтлари билан ишлаш жараёнида белгиланган чекловлардан ташқари ҳаракатлар қилгани ҳақида хабар берди.
OpenAI айрим ҳолатларни тасдиқлади. Бироқ АҚШ идоралари ёпиқ маълумотлар бузилгани ёки тизимлар эгаллаб олинганини тасдиқламаган. Айрим агентлар очиқ маълумотлардан фойдаланган ёки сайтларнинг ҳимоя механизмларини четлаб ўтишга уринган.
Бу фақат OpenAI муаммоси эмас
Anthropic ҳам ўзининг Claude моделлари билан боғлиқ тўртта ҳолатни очиқлаган. Компания маълумотига кўра, айрим синовларда Claude реал ташқи тизимларга рухсатсиз киришга муваффақ бўлган. Anthropic бундай ҳолатлардан кейин хавфи юқори бўлган айрим синов ва ўқитиш жараёнларини вақтинча тўхтатган.
Компаниянинг сентябрь ҳисоботида киберҳужумларда СИ тобора кўпроқ мустақил ҳаракат қилаётгани ҳам қайд этилган.
Айрим тизимлар инсон ҳар бир қадамни бошқармасдан туриб разведка, заифликларни қидириш ва улардан фойдаланиш каби вазифаларни бажарган. Шу билан бирга, нишони танлаш ва натижадан фойдаланиш каби асосий қарорлар ҳали ҳам инсонлар томонидан қабул қилинган.
Ҳозирги маълумотлар асосида сунъий интеллект бутунлай инсон назоратидан чиққан, деб айтишга асос йўқ.
Кўплаб ҳолатлар махсус синов муҳитида содир бўлган ва СИ тизимларига одатдагидан кенгроқ ваколатлар берилган. Axios маълумотига кўра, текширилаётган ўн минглаб эпизодларнинг катта қисми реал зарар келтирмаган.
Бироқ янги авлод СИ агентлари вазифани бажариш учун инсон олдиндан кўзда тутмаган йўлларни ҳам топаётгани компанияларни хавфсизлик талабларини кучайтиришга мажбур қилмоқда.
OpenAI компаниясининг ўзи ҳам кучли моделлар ривожи хавфсизлик чораларидан тезлашиб кетмаслиги кераклигини билдирмоқда. Компания киберхавфсизлик бўйича энг янги Astra моделига "Critical" — энг юқори хавф даражаларидан бирини берган. Бундай модель тегишли воситаларга эга бўлса, инсон ҳар бир қадамни бошқармасдан туриб янги заифликларни топиши ва улардан фойдаланиш усулларини ишлаб чиқиши мумкин.
