Introduksjon til TensorFlow
I denne artikkelen vil vi se en oversikt over TensorFlow Architecture. TensorFlow er et bibliotek på tvers av plattformer, og det er noen vanlige konsepter som operasjoner, økter og beregningsgrafer. TensorFlow Servering gjør det enkelt å distribuere nye algoritmer og eksperimenter mens du beholder den samme databasearkitekturen og API-ene.
Hva er Tensorflow-arkitektur?
Tensorflow er et ofte brukt bibliotek for dyp læring, som er bygget av Googles hjerneteam som arbeidet med kunstig intelligens. Den ble utviklet slik at den kan brukes på flere CPUer, GPUer, og den kan også kjøres på mobile enheter og støtter forskjellige innpakningsklasser som python, C ++ eller Java og Tensors, som er objekter som beskriver den lineære sammenhengen mellom vektorer, skalarer og andre tensorer .
Tensorer er ikke annet enn flerdimensjonale matriser. For å forstå TensorFlow-arkitekturen og funksjonene, må vi først forstå noen begreper.
- Tensorflow servables
- Servable versjoner
- Servable strømmer
- Tensorflow-modell
- Tensorflowloadere
- Tensorflytkilder
- Tensorflow Manager
- Tensorflow Core
- Servable Life
- Batcher In Tensorflow-arkitektur
1. Tensorflow-servables
- Tensorflow-servabler er vanlige objekter som hovedsakelig brukes til å utføre beregning. Størrelsen på TensorFlow-servable er veldig fleksibel. Servables er sentrale ukomplette enheter i TensorFlow-servering.
- En betjenbar enhet kan inneholde alt som den kan inneholde tupler, oppslagstabeller. Servable objekter kan være av hvilken som helst type og hvilket som helst grensesnitt, på grunn av disse funksjonene er det veldig fleksibelt og enkelt å gjøre fremtidige forbedringer, for eksempel asynkrone driftsformer, strømningsresultater og eksperimentelle API-er.
2. Servable versjoner
- Servable versjoner brukes til å opprettholde versjoner av TensorFlow servable. Den kan håndtere en eller flere versjoner av servables. Det kan bidra til å konfigurere de nye algoritmene, håndtere vekter og andre endringer kan gjøres, data kan lastes inn.
- Det kan også endre og administrere versjoner, aktivere flere betjenbare versjoner om gangen.
3. Servable strømmer
Det er en samling av forskjellige versjoner av Servables. Den lagrer den i en økende sekvens av versjoner.
4. Tensorflytmodeller
- En TensorFlow-modell kan inneholde en eller flere TensorFlow-servabler. Det brukes hovedsakelig i maskinlæringsoppgaver som kan inneholde mer enn en algoritme som inneholder forskjellige vekter i henhold til modell, oppslagstabeller, beregninger og tabellinnlegginger.
- Det kan serveres på mange forskjellige måter slik at det er forskjellige måter å servere oppslagstabellen på.
5. Tensorflowloadere
- Tensorflow loader er et API som administrerer TensorFlow Servables livssyklus. Det gir en felles infrastruktur for noen av læringsalgoritmene.
- Den viktigste bruken av TensorFlow-lasteren er å laste og losse servables ved hjelp av standardiserte laster-API-er.
6. Tensorflytkilder
- Kilder fungerer som en plugin-modul. Tensorflowkilde gjør den grunnleggende håndteringen av servable som funn av servable, gir servable på forespørsel.
- Hver referanse kan gi en eller flere betjenbare strømmer om gangen. Hver kilde gir en lasterinstans for å håndtere versjonen av strømmen. Og hver servable strøm lastes på versjonsbasert.
- Kilde har forskjellige tilstander som kan deles med forskjellige versjoner og til flere servere. Kan også håndtere oppdatering eller skifte mellom versjoner.
7. Tensorflow Managers
- Tensorflow manager håndterer livsløpssyklusen til brukbar.
- Laster Servable, Serving Servable, Unloading Servable.
- Manager får svar fra alle servable kilder og overvåker også all versjon av den. Lederen kan også nekte eller utsette opplastingen.
- GetServableHandle () -funksjonen gir et grensesnitt som hjelper deg med å håndtere ledelsesmessige ting om TensorFlow Servables.
8. Tensorflow Core
Tensorflow Core inneholder:
- Livssyklus, beregninger.
- Tensorflow serveringskjerne tar servabler og lastere som objekt.
9. Levetiden til en serverbar
Hele prosedyren blir forklart om hvordan brukbar brukes og hele livssyklusen til brukbar:
- Kilde opprette lastere for forskjellige servable versjoner. Klientforespørsel til manager og manager sendte lasterne ønsket versjon, last inn og serverer tilbake til klienten.
- Lasteren inneholder metadata som kan brukes til å laste Servables. Tilbakekalling brukes til å varsle lederen om de servable kildeversjonene. Lederen følger en versjonspolicy som hjelper deg med å konfigurere og bestemme hvilken handling som skal trengs videre.
- Lederen sjekker også sikkerheten til lastere, hvis det er trygt, vil det bare gi de nødvendige ressursene til lasteren og gi tillatelse til å laste den nye versjonen. Lederen gir Severable på klientforespørsel, eller den vil be om en spesifikk versjon eksplisitt eller kan be om den siste versjonen etter at lederen returnerer et håndtak for tilgang til servicen.
- Dynamic manager håndterer de servable versjonene, bruker versjonspolicyen og bestemmer at versjonen eller den nyeste versjonen må lastes inn. Den dynamiske manageren tildeler minne til lasteren. Loader starter TensorFlow-grafen og oppdaterer vektene til TensorFlow-grafen.
- Når en klient ber om servicen og sjekker versjonen som klienten ber om, returnerer Dynamic manager den behandleren med den forespurte versjonen av Servable.
10. Batcher i Tensorflow Architecture
- Batching er en prosedyre for å håndtere flere forespørsler til en enkelt forespørsel.
- Ved å bruke denne prosedyren kan vi redusere kostnadene for å utføre slutninger, spesielt akselerasjonen av maskinvare som GPU, TPU.
- Tensorflow servable inneholder en Batcher-widget, ved å bruke denne widgeten kan klienter enkelt batch sine flere spesifikke inferensforespørsler til en enkelt batch-forespørsel. Så de kan kjøre denne prosedyren effektivt.
Konklusjon - TensorFlow Architecture
Tensorflow Architecture representerer et desentralisert system. Den viser hvordan forskjellige komponenter fungerer og serverer sine roller i et desentralisert system. Serverer på klientens forespørsel og bruker batching av flere operasjoner parallelt. Noen av de beste funksjonene i TensorFlow-arkitektur er batching av operasjoner, maskinvareakselerasjon og dynamiske manageralternativer, lastere, kilder, servable strømmer.
Anbefalte artikler
Dette er en guide til TensorFlow Architecture. Her diskuterer vi Hva er TensorFlow og noen av de beste funksjonene i TensorFlow Architecture. Du kan også gå gjennom andre foreslåtte artikler for å lære mer -
- Introduksjon til tensorflow med karakteristikk
- TensorFlow vs Spark | Topp 5 sammenligning
- Theano vs Tensorflow - Topp forskjeller
- TensorFlow Alternativer | Topp 11