Data Panda zet je operationele data en warehouse-data op één plek en stuurt ze door naar een Anyscale Ray-cluster. Train modellen, doe LLM-finetuning, draai batch-inference en serveer online endpoints, allemaal op de data die je bedrijf zelf genereert.
Anyscale werd in 2019 opgericht door Robert Nishihara, Philipp Moritz en Ion Stoica, hetzelfde team dat tussen 2016 en 2017 Ray bouwde aan UC Berkeley's RISELab. Ion Stoica is ook medeoprichter van Databricks en zit vandaag de raad van Anyscale voor; Philipp Moritz is CTO en Robert Nishihara is de derde medeoprichter. Keerti Melkote nam in 2024 het CEO-stokje over.
Het product is het Anyscale Platform: een managed, multi-cloud runtime voor Ray die draait op AWS, GCP, Azure, CoreWeave en Nebius. Het wikkelt de Ray-bibliotheken (Ray Data voor distributed dataverwerking, Ray Train voor modeltraining, Ray Serve voor online inference, Ray Tune voor hyperparameter search en RLlib voor reinforcement learning) in met workspaces, jobs, services, observability, governance en priority-aware GPU-scheduling. OpenAI gebruikt Ray om de training van zijn grootste modellen te coördineren, ChatGPT incluis, en de eigen klantenlijst van Anyscale telt onder meer Coinbase, Character.ai, Canva, Notion, Runway, Grab, Recursion, TripAdvisor, TwelveLabs, Riot Games en Physical Intelligence. Het open-source Ray-project heeft meer dan 41.000 GitHub-sterren en meer dan 500 miljoen downloads achter de rug.
GPU-uren en Anyscale-kost per job, naast het model dat de job opleverde en de bedrijfsworkflow die het model gebruikt.
Ray Serve-scores of batch-voorspellingen rechtstreeks weggeschreven naar de systemen waar je team werkt.
Haal warehouse-inhoud binnen in een Ray-cluster, finetune of train, schrijf het artefact weg naar modelopslag.
Custom tools die warehouse-data lezen en een Ray Serve-endpoint aanroepen in plaats van een publieke LLM-API.
Een lijst van concrete rapporten, automatisaties en AI-toepassingen die we op Anyscale-data hebben gebouwd. Kies er een die bij je situatie past.
Welke Ray-jobs verbruiken het meeste, en wordt de model-output ook gebruikt?
GPU-uren en Anyscale-kost per job en per workspace, gekoppeld aan het modelartefact dat elke job opleverde en aan de downstream workflow die het model oproept. Brengt de wekelijkse fine-tune naar boven die het grootste deel van het cluster-budget opmaakt terwijl zijn model nog op een oude versie geprikt staat, naast de lichtere Ray Tune-sweep die de recommender opleverde die vandaag in productie draait.
Verdienen onze Ray Serve-endpoints hun GPU's nog?
Ray Serve-aanvraagvolume, latency en foutpercentage per endpoint, gekoppeld aan GPU-bezetting en kost. Vangt het always-on endpoint dat vijf calls per dag bedient op twee gereserveerde GPU's, en het drukke endpoint dat ver boven zijn budget aan het autoscalen is omdat elke interne app een retry-loop heeft toegevoegd.
Is de data die we de cluster voeren wel vers genoeg?
Lineage vanaf het bronsysteem via de warehouse-tabel tot de datasetversie die een Ray Train-job binnenkreeg, met tijdstempels op elke stap. Vangt de fine-tuning-run die al twee weken aan het trainen is op een feature-tabel die na een pipeline-fout stopte met verversen, en daarom blijft het model achteruitgaan op het gedrag van vorige maand.
GPU-uren en Anyscale-kost per team, per workspace en per business unit, gekoppeld aan de workflow die elk model bedient. De AI-lijn op het budget verschuift van één Anyscale-factuur naar een getal dat naast de voorspellingen staat die in CRM, ERP en het warehouse gebruikt worden.
Ray Serve-endpoint-health, latency en kost per call, gekoppeld aan de interne app die het endpoint oproept. Laat het team het always-on endpoint stilleggen dat niemand oproept en het endpoint rightsizen waar elke retry-loop op aan het hameren is.
Je houdt de rapporteringstool die je al hebt. Wij koppelen hem aan het warehouse waar je Anyscale-data staat.
OAuth-authenticatie. Standaard read-only. Wij tekenen een DPA en je admin houdt de sleutels.
Data stroomt naar je warehouse op het schema dat jij kiest. Bijna real-time of 's nachts, aan jou. Jij bent eigenaar.
We bouwen het eerste dashboard, de eerste workflow of AI-toepassing samen met jou, en geven de sleutels over. Of we blijven erbij voor doorlopende levering.
Wij zetten de basis op. Jouw team bouwt erop verder.
Beste match Teams die al een BI-analist of data engineer in huis hebben en zelf willen bouwen.
Wij bouwen het geheel, van A tot Z.
Beste match Teams zonder BI- of dev-capaciteit in huis. Jij zegt wat je nodig hebt en wij leveren het.
Jij. Ze komt in jouw warehouse terecht, op jouw cloud-account. Wij verkopen ze niet door en aggregeren ze niet. Stop je met ons, dan blijft het warehouse van jou en blijft het draaien.
Bijna real-time voor de meeste operationele systemen. Voor zwaardere bronnen plannen we per uur of per nacht. Je kiest op basis van wat de rapporten nodig hebben.
Nee. Heb je er geen, dan helpen we je er een kiezen en zetten we het op als deel van de eerste levering. Gangbare startpunten zijn Snowflake, Microsoft Fabric of een kleine Postgres-start.
Ray is het open-source distributed compute framework: Python-API's plus de bibliotheken Ray Data, Ray Train, Ray Serve, Ray Tune en RLlib. Je kan Ray ook zelf draaien op je eigen Kubernetes of VM's. Anyscale is het bedrijf achter Ray en draait het managed Anyscale Platform: een multi-cloud runtime voor Ray met workspaces, jobs, services, observability, governance en priority-aware GPU-scheduling op AWS, GCP, Azure, CoreWeave en Nebius. Dezelfde Ray-code, minder cluster-beheerwerk.
Anyscale draait op AWS, GCP, Azure, CoreWeave en Nebius. Dezelfde Ray-code is portabel tussen die providers, en het platform ondersteunt multi-cloud GPU-pooling zodat een job kan bursten naar waar capaciteit zit. De cluster leeft in customer-hosted modus binnen je eigen cloud-account, wat de typische opstelling is voor teams die data en compute binnen hun eigen VPC willen houden.
Distributed modeltraining (Ray Train), batch-inference en multimodale dataprep (Ray Data), online inference (Ray Serve), hyperparameter-search (Ray Tune) en reinforcement learning inclusief RLHF post-training (RLlib en community-frameworks zoals SkyRL en veRL). Dezelfde cluster draagt in productie vaak meerdere van die workloads tegelijk, en daarom telt rapportering op workspace-niveau over kost en bezetting meer dan timing per job.
We bekijken je Anyscale-opzet en de systemen eromheen. Samen kiezen we wat we als eerste bouwen.