ChatGPT янги версиялари биологик қурол яратишни соддалаштириши мумкин

OpenAI компаниясининг кейинги авлод сунъий интеллект моделлари (ChatGPT) янги хавфларни юзага келтириши, жумладан, илмий маълумотга эга бўлмаган одамларга биологик қурол каби эҳтимолий хавфли моддаларни яратишга имкон бериши мумкин. Буни компания раҳбарияти ҳам тан олмоқда.

Юқори хавфли сунъий интеллект пайдо бўлишининг аниқ вақти айтилмаган бўлса-да, OpenAI хавфсизлик тизимлари раҳбари Йоҳаннес Хайдеке о3 моделининг баъзи версиялари шу даражага етишини таъкидлади.

Сунъий интеллектни чеклаш билан боғлиқ қийинчилик шундаки, катта тил моделларига (LLM) тиббий ютуқларни яратишга имкон берадиган баъзи бир имкониятлар зарарли мақсадлар учун ҳам ишлатилиши мумкин.

У OpenAI ва бошқа компанияларга 99 фоиздан юқори аниқлик ёки 100 минг ҳолатдан бирида зарарли фойдаланишнинг олдини оладиган аниқлаш тизимлари кераклигини тан олди. Шу билан бирга, инсон назорати муҳим аҳамиятга эга: мониторинг гуруҳлари автоматик филтрлашни четлаб ўтадиган ҳодисаларга тезда жавоб бериши ва потенциал таҳдидни тезда бартараф этиши керак.

2024 йилдаёқ OpenAI биологик қуролларни яратишга ҳисса қўшиши мумкин бўлган маълумотларни олиш учун ChatGPT платформасидан фойдаланишга уринишларни блоклаши мумкин бўлган эрта огоҳлантириш тизимини ишлаб чиқаётганини эълон қилди.

Шу йил апрел ойида кимёвий ва биологик таҳдидлар билан боғлиқ эҳтимолий хавфли сўровларни кузатиб борадиган о3 ва о4 мини моделлари учун мониторинг тизими жорий этилди. Ушбу чора-тадбирлар сунъий интеллектнинг ҳақиқий қуролларни яратишга олиб келиши мумкин бўлган кўрсатмалар беришининг олдини олишга қаратилган.