Zajímavý

OpenAI právě vydal ještě děsivější falešný algoritmus pro psaní zpráv

OpenAI právě vydal ještě děsivější falešný algoritmus pro psaní zpráv

OpenAI, společnost AI, kterou Elon Musk založil a poté s ní skončila, právě vydala výkonnější verzi svého softwaru pro psaní textu AI.

Společnost stále nevydá svůj plný software - který lze použít k hromadnému psaní falešných zpráv a zpráv - kvůli obavám, že by mohlo dojít ke zneužití.

SOUVISEJÍCÍ: MICROSOFT INVESTUJE SKVĚLOU 1 miliardu USD V PARTNERSTVÍ OPENAI

Co dělá OpenAI?

OpenAI říká, že jeho systém psaní textů je tak pokročilý, že dokáže psát zprávy a dokonce i beletrii, která prochází jako člověk.

Uživatel může systémový text krmit - cokoli od několika vět až po jeho stránky - a systém poté bude pokračovat ve stejném textu v neuvěřitelně dobře napsaném, kontextově relevantním lidském stylu.

Po uvolnění původního systému však GPT-2v únoru společnost uvedla, že úplný software je příliš nebezpečný na to, aby byl uvolněn pro veřejnost - byla zpřístupněna slabší verze.

Společnost nyní oznámila, že vydala verzi GPT-2, která je šestkrát výkonnější.

Ve skutečnosti můžete vyzkoušet nejnovější veřejný systém OpenAI na TalkToTransformer.com. Výsledky mohou být děsivě realistické - i když v psaní jsou zjevné nedostatky.

OpenAI je stále opatrný

Podle prohlášení OpenAI stále existuje ještě výkonnější verze GPT-2, kterou společnost dosud neprozradila.

Společnost říká, že plánuje uvolnit výkonnější model v rámci několik měsíců, ale nemusí, pokud zjistí, že lidé používají nový, silnější GPT-2 zlomyslně.

V době původního oznámení vydání GPT-2 v únoru řekl Jack Clarke, šéf politiky OpenAIOpatrovník existuje „mnoho lidí, kteří jsou lepší než my v tom, že si myslí, co [AI] může dělat zlomyslně.“

Lze jej použít například ke generování nekonečných falešných pozitivních nebo negativních recenzí - jako by je napsala skutečná osoba.

Lék na falešné zprávy?

Zatímco OpenAI nás přibližuje k ovládnutí světa AI, skupina vědců z Harvardu a MIT vyvíjí metodu, jak používat AI k boji proti AI.

Vědci vyvinuli systém nazvaný GLTR, který používá algoritmus ke sledování pravděpodobnosti, že průchod byl napsán AI nebo ne.

Bude zajímavé zjistit, zda GLTR někdy narazí na nejsilnější verzi GPT-2 - pokud bude vůbec vydána pro veřejnost, to je. Války AI mohou být na nás.


Podívejte se na video: Uhádnu co si myslíš za číslo!!! (Leden 2022).