Susipažinkite su Black Forest Labs – startuoliu, kuris maitina Elono Musko nepriekaištingą dirbtinio intelekto vaizdų generatorių
Elono Musko „Grok“ antradienio vakarą išleido naują AI vaizdo generavimo funkciją, kuri, kaip ir AI pokalbių robotas, turi labai mažai apsaugos priemonių. Tai reiškia, kad, pavyzdžiui, galite sukurti netikrus marihuaną rūkančio Donaldo Trumpo vaizdus per Joe Rogan Show ir įkelti juos tiesiai į X platformą. Tačiau naujas startuolis yra už prieštaringai vertinamos funkcijos.
Socialinės žiniasklaidos svetainė jau užtvindyta piktinančių vaizdų iš naujos funkcijos. Tai neabejotinai kelia susirūpinimą artėjant rinkimų ciklui, tačiau griežtai kalbant, tai tikrai nėra Elono Musko dirbtinio intelekto įmonė, kuri skatina beprotybę. Atrodo, kad Muskas rado kompaniją, kuri pritaria jo vizijai apie Groką kaip „pokalbių robotą nuo pabudimo“ be griežtų apsauginių turėklų, esančių OpenAI Dall-E ar Google Imagen. Antradienį xAI paskelbė apie bendradarbiavimą su Black Forest Labs, AI vaizdų ir vaizdo įrašų startuoliu, kuris buvo pradėtas rugpjūčio 1 d., kad maitintų Grok vaizdų generatorių naudojant FLUX.1 modelį.
„Black Forest Labs“ yra įsikūrusi Vokietijoje ir neseniai pasislėpė su 31 mln. USD pradiniu finansavimu, vadovaujama Andreesseno Horowitzo, teigiama pranešime spaudai. Kiti žinomi investuotojai yra „Y Combinator“ generalinis direktorius Garry Tanas ir buvęs „Oculus“ generalinis direktorius Brandanas Iribe. Startuolio įkūrėjai Robinas Rombachas, Patrickas Esseris ir Andreasas Blattmannas anksčiau buvo tyrėjai, padėję sukurti „Stability AI“ stabilios difuzijos modelius.
Dirbtinės analizės duomenimis, Black Forest Lab FLUX.1 modeliai kokybe lenkia „Midjourney“ ir „OpenAI“ AI vaizdų generatorius, bent jau taip, kaip vertina vartotojai savo vaizdo arenoje.
Startuolis teigia, kad „mūsų modeliai tampa prieinami plačiajai auditorijai“, naudojant atvirojo kodo AI vaizdo generavimo modelius Hugging Face ir GitHub. Netrukus bendrovė sako, kad planuoja sukurti ir teksto į vaizdo įrašą modelį.
Black Forest Labs ne iš karto atsakė į „TechCrunch“ prašymą pakomentuoti.
Savo pristatymo pranešime bendrovė teigia, kad siekia „padidinti pasitikėjimą šių modelių saugumu“, tačiau kai kurie gali sakyti, kad X trečiadienį jos AI sukurtų vaizdų potvynis padarė priešingai. Daugelio vaizdų, kuriuos naudotojai galėjo sukurti naudodami „Grok“ ir „Black Forest Labs“ įrankį, pvz., Pikachu, laikančio automatinį šautuvą, nepavyko atkurti naudojant „Google“ ar „OpenAI“ vaizdų generatorius. Neabejotina, kad modelio mokymuose buvo naudojami autorių teisių saugomi vaizdai.
Tai tarsi esmė
Šis apsaugos priemonių trūkumas greičiausiai yra pagrindinė priežastis, kodėl Muskas pasirinko šį bendradarbį. Muskas aiškiai pasakė, kad, jo nuomone, dėl apsaugos priemonių dirbtinio intelekto modeliai tampa mažiau saugūs. „Pavojus mokyti dirbtinį intelektą pabusti, kitaip tariant, meluoti, yra mirtinas“, – 2022 m. tviteryje sakė Muskas.
„Black Forest Labs“ valdybos direktorius Anjney Midha X paskelbė vaizdų, sukurtų pirmąją „Google Gemini“ ir „Grok's Flux“ bendradarbiavimo dieną, palyginimų seriją. Gijose pabrėžiamos gerai dokumentuotos „Google Dvynių“ problemos, susijusios su istoriškai tikslių žmonių vaizdų kūrimu, ypač netinkamai įtraukiant į vaizdus rasinę įvairovę.
„Džiaugiuosi, kad @ibab ir komanda į tai žiūrėjo rimtai ir padarė teisingą pasirinkimą“, – tviteryje sakė Midha, turėdamas omenyje, kad FLUX.1, atrodo, vengia šios problemos (ir paminėjo xAI vadovaujančio tyrėjo Igorio Babuschkino pasakojimą).
Dėl šio nesklandumo „Google“ atsiprašė ir vasario mėnesį išjungė Gemini galimybę generuoti žmonių atvaizdus. Iki šiol bendrovė vis dar neleidžia Dvyniams kurti žmonių vaizdų.
Dezinformacijos gaisrinė
Šis bendras apsaugos priemonių trūkumas gali sukelti problemų Muskui. X platforma susilaukė kritikos, kai platformoje paplito dirbtinio intelekto sukurti giliai padirbti atviri vaizdai, vaizduojantys Taylor Swift. Be to incidento, Grokas sukuria haliucinuotas antraštes, kurios X naudotojams pasirodo beveik kas savaitę.
Dar praėjusią savaitę penki valstybės sekretoriai ragino X nustoti skleisti dezinformaciją apie Kamalą Harris. Anksčiau šį mėnesį Muskas dar kartą pasidalijo vaizdo įrašu, kuriame buvo naudojamas dirbtinis intelektas Harriso balsui klonuoti, todėl atrodė, kad viceprezidentas prisipažino esantis „ įvairovės nuoma“.
Atrodo, kad Muskas ketina leisti tokiai dezinformacijai įsiskverbti į platformą. Leisdamas vartotojams skelbti Groko AI vaizdus, kuriuose, atrodo, nėra jokių vandenženklių, tiesiai ant platformos, jis iš esmės atidarė dezinformacijos, nukreiptos į kiekvieno X naujienų kanalą, šlangą.
