X5 – die fünfte Generation Engineered Systems Ingo Frobenius Systems Consultant Tech Data Azlan • Gegründet 1990 als Workstation 2000 • 2000 Umbenennung von Workstation 2000 in TD Midrange • 2006 Zusammenführung TD Midrange und Azlan in den Value Added Geschäftsbereich Azlan • Firmensitz D: München Firmensitz Tech Data, München • Teil des finanzstarken Tech Data Konzerns (Fortune 500: Rang 109) • Umsatz TechData weltweit: ca. 27,7 Milliarden US $ FY 2015 • Anzahl Mitarbeiter in Deutschland: 150 • Kunden: >3800 Vertriebspartner (D/A/CH) • Produktportfolio der weltweit führenden Hersteller im Midrange und Enterprise Solution Umfeld Sprichst Du über Engineered Systems.... .... sprichst Du über den Red Stack 3 Google 4 Oracle Red Stack Software und Hardware aus einer Hand 5 Oracle Engineered Systems Big Data Appliance Exalytics SPARC Supercluster Virtual Compute Appliance Exalogic ZDLRA ZFS Filer Exadata Oracle Database Appliance 6 Oracle Engineered Systems Big Data Appliance Exalytics SPARC Supercluster Virtual Compute Appliance Exalogic ZDLRA ZFS Filer Exadata Oracle Database Appliance 7 Oracle Engineered Systems Big Data Appliance Exalytics SPARC Supercluster Virtual Compute Appliance Exalogic ZDLRA ZFS Filer Exadata Oracle Database Appliance 8 Oracle Engineered Systems Big Data Appliance Exalytics SPARC Supercluster Virtual Compute Appliance Exalogic ZDLRA ZFS Filer Exadata Oracle Database Appliance 9 X5 Server Fünfte X86 Servergeneration seit der Übernahme von Sun durch Oracle Die Building-Blocks für Oracles Engineered Systems Quelle: Wikimedia Commons, Allgemeinfrei 10 Oracle folgt der Intel Roadmap Tack = Neuer Core Tick = Kleinere Struktur EP 2 Sockel (E5-2600) Sandy Bridge Ivy Bridge Haswell Broadwell Skylake Tack Tick Tack Tick Tack Sun Server X3-2 Sun Server X4-2 Oracle Server X5-2 Oracle Server X6-2 X5-2 X5-2L 11 Oracle Server X7-2 Oracle‘s x86 Fokus • Nur Server mit Enterprise Features – Maximale RAS Features – Sehr großer Hauptspeicherausbau • Formfaktor: – 2 Sockel, 1 RU und 2 RU – 4 Sockel, 3 RU – 8 Sockel, 5 RU 12 Oracle Server X5-2 / X5-2L Haswell CPU Compute • 1 oder 2 E5-2600 v3 Prozessoren mit 8, 10, 12 oder 18 Cores • 24 DDR4-2133 Dimms 768 GB RAM mit 32GB LR DDR4-2133 DIMMs I/O • PCIe Gen3 Slots • Kombination aus HDD, SSD und NVMe SSD Verfügbarkeit • HDD, SSD und NVMe sind hot-swappable • Hardware RAID 0, 1, 5, 6, 10, 50, 60 • Redundante Netzteile • Hot-swappable Lüfter Management • Oracle Integrated Lights Out Manager (Oracle ILOM) • Dediziertes oder Sideband Management Netzwerk 13 NVMe • Non Volatile Memory Express • Neuer Standard zum Anschluss von Flash PCI-Karten und SSDs 14 NVMe im Unterschied zu SAS Herkömmliche SSD Memory PCIe Root Complex PCIe SAS 12 Gb/sec SAS3 SAS3 to Flash Controller Controller Oracle Server X5-2 or X5-2L Flash Flash Flash Flash Flash Flash Flash Flash Standard SSD NVMe SSD 32 Gb/sec PCIe Gen3 (4 lanes) Memory PCIe Root Complex Oracle Server X5-2 or X5-2L Bis zu 2.6 mal mehr Durchsatz bei der NVMe Lösung 15 PCIe to Flash Controller Flash Flash Flash Flash Flash Flash Flash Flash NVM Express SSD NVMe in Oracle Produkten • PCIe Karten – F160 Karten • 1.6TB Flash – 1.6TB NVMe SSDs • 1.6TB Flash im 2.5‘‘ SSD Format • Support – Oracle Linux – Oracle Solaris • Derzeit kein Support mit OVM • Falls NVMe SSDs in einem X5-Server eingesetzt werden sollen, so ist dies bei Neubeschaffung anzugeben! – Einbau einer Adapterkarte 16 NVMe Steckplätze X5-2 und 8-bay X5-2L 17 Vorsicht bei der X5-2L mit 24 Steckplätzen SLOT%22% % SLOT%23% % SLOT 21 SLOT%17% % SLOT%18% % SLOT%19% % SLOT 20 SLOT 16 SLOT 15 SLOT 14 SLOT 13 SLOT 12 SLOT 11 SLOT 10 SLOT 9 SLOT 8 SLOT 7 SLOT 6 SLOT 5 SLOT 4 SLOT 3 SLOT 2 SLOT 1 SLOT 0 Standard X5-2L mit 24 + 2 Steckplätzen NVMe Slots Für die Exadata gibt es eine spezielle modifizierte Variante mit 8 NVMe Steckplätzen 18 Exadata X5-2 19 Neue Building Blocks • X5-2 als Compute Nodes mit je 2 x 18 Core CPUs • 256 GB aufrüstbar auf 768GB (pro Knoten) • X5-2L mit 8 x 1.6TB NVMe SSDs für die EF-Variante (Extreme Flash) • Keine PCIe Flash Karten • X5-2L mit 12 x 4TB Disks für die HC-Variante (High Capacity) • 4 x PCIe NVMe Flash Karten mit je 1.6TB 20 Freie Konfigurationen • Start mit ¼ Exadata X5-2 Quarter Rack X5-2 Databank Server – 2 DB-Server – 3 Storage Knoten X5-2 Storage Server Extreme Flash Extreme Flash • High Capacity • Beliebiges Hinzufügen von Datenbank oder Storage Servern EF High Capacity HC • • Weiterhin fixe Konfigurationen verfügbar • Capacity-on-Demand für Maximal 22 Server oder 38U Servers 21 alle fixen Konfigurationen Workload optimierte Exadata Konfigurationen Data Warehousing Machine Extreme Flash OLTP Machine DB In-Memory Machine 288 DB Cores 13.3 TB RAM 2 TB RAM 224 Storage Cores 32 TB Flash 102 TB Flash 90 TB Flash 240 TB Disk 16 Datenbank Server + 5 High Capacity Storage Server 22 288 DB Cores 576 DB Cores 672 TB Disk 8 Datenbank Server + 8 Extreme Flash Storage Server 8 Datenbank Server + 14 High Capacity Storage Server Weitere Verbesserungen • Alle Festplattencontroller in den Knoten sind nicht mehr Batterie-abgesichert – Absicherung ab sofort durch wartungsfreien Super Cap • Infinibandkarten laufen im Active-Active Modus – Bei den Dual-Port Karten ist eine (theoretische) Bandbreite von 80GB möglich – Doppelte Anzahl privater IP Adressen notwendig – Bei Ausfall eines Ports läuft alles über den verbliebenen Port – Nur supported in neuen X5-2 Exadatas 23 Ebenfalls verbessert mit X5-Storage Servern Exadata Storage Expansion – Spezielles Rack nur mit Exadata Storage Servern – 4 to 19 X5-2 Storage Server 24 – – – – X4-8 Database Machine 2 to 4 8-Sockel Xeon DB Server DB Server mit 2TB bis 6TB RAM 3 bis 14 X5-2 Storage Server High End In-Memory DB SuperCluster – 2 8-Sockel Sparc T-5 DB Server – 4 bis 8 X5-2 Storage Server – ZFS Storage und Solaris Virtualisierung zur Applikations Konsolidierung ZDLRA • Zero Data Loss Recovery Appliance • Redo Transport in Echtzeit – Redo Logs werden aus dem Hauptspeicher der Produktiv DB gelesen (geringer Overhead) • Online Inkrement Backups • Schutz vor Bedienfehlern • Anschluss von Tapelibraries möglich • Positioniert für Oracle DB Installationen 25 ZDLRA ZDLRA • Basiert auf Exadata HC Komponenten – Compute Server X5-2 • 2 x 18 Core E5-2699v3 • 256 GB DDR4 Speicher – Storage Server X5-2L 26 • 2 x 8 Core E5-2630v3 • 12 x 4TB Festplatten Virtual Compute Appliance 27 Virtual Compute Appliance • General Purpose Maschine für den Betrieb von Applikationen in virtuellen Maschinen • Fertiges System • Einfache Bedienoberfläche • Minimaler Setup Aufwand • Reduziert Risiken bei der Einführung neuer Infrastruktur • Bereitstellung von Anwendungen mit vorgefertigten Templates • Vollständige Virtualisierung inklusive SDN http://www.oracle.com/technetwork/server-storage/vm/overview/templates-101937.html 28 Virtual Compute Appliance • Neue X5-2 Compute Server – Voraussichtlich mit je 2 CPU a 18 Cores und 256GB RAM • Derzeit kein NVMe Support – NVMe werden vom Oracle Hypervisor nicht supported • Ideale Plattform für virtualiserte Umgebungen – Kunde möchte viele kleine Oracle Datenbanken in VMs betreiben – Applikationsserver – vorgefertigte Images von Oracle vorhanden • Interne Infinibandverbindung 29 30 Exalogic Elastic Cloud Exalogic Elastic Cloud • Hochperformante Plattform für Middleware und Applikationen in einer Privat-Cloud-Umgebung • Integrierter NAS-Filer – ZS3-2 • Neue Compute-Nodes in der Maschine – Je 2 mal 18 Core Haswell Prozessoren – 256 GB DDR4 RAM – 400 GB SAS-3 SSDs 31 Big Data Appliance Big Data Appliance • Vorgefertigtes System für Big Data Anwendungen • Hardware: – Bis zu 18 X5-2L Server – 12 x 4TB Festplatten – 128GB RAM, erweiterbar auf 768GB pro Knoten • Betriebssystem: Oracle Linux • Oracle Java JDK • Cloudera Softwarestack: – Hadoop (verteilte, parallele Java Applikationen) – Impala (Parallele SQL Engine für Hadoop) – HBase (Verteilter Storage) – ..... 33 Oracle Database Appliance 34 Was ist die Oracle Database Appliance? • Engineered System – Oracle Datenbank – Applikationen, die auf Oracle DB aufbauen • Einfachste Bereitstellung und Administration • Hochverfügbar • Capacity On Demand – Man kauft nur die Lizenzen, die man wirklich braucht 35 Oracle Database Appliance X5-2 • 2 Server jeweils mit – 2 Intel E5-2699 CPUs mit je 18 Cores (2.3GHz) – Je Server 256GB Hauptspeicher • Erweiterbar auf 768GB (je Server) – Redundanter Infiniband Interconnect – 10 GbE Netzwerk (Kupfer) • Neuer Storage Shelf – 800GB Flash für Log-Dateien • 4 x 200GB schreiboptimierte SSD – 1,6TB Flash als Flash-Cache • 4 x 400GB leseoptimierte SSD – 64TB Festplattenkapazität • 36 16 x 4 TB Disks Kein Single Point of Failure Infiniband Node 0 • Jeder Knoten mit 2 HBAs • Zwei IO Module im Storage • Redundante Netzteile in den Systemen 37 HBA Node 1 HBA HBA HBA IO Module IO Module P0 P1 Slot 20 Slot 21 Slot 22 Slot 23 Slot 16 Slot 17 Slot 18 Slot 19 Slot 12 Slot 13 Slot 14 Slot 15 Slot 8 Slot 9 Slot 10 Slot 11 Slot 4 Slot 5 Slot 6 Slot 7 Slot 0 Slot 1 Slot 2 Slot 3 Verkabelung 38 Darf‘s a bisserl mehr sein? • Zweiter Storage Shelf ebenfalls mit – 800 GB SSD Log File – 1.6 TB SSD Flash Cache – 64 TB Festplatte • Administrationsfreier Anschluss – Automatische Integration – Daten werden automatisch zwischen den Shelfs verteilt – Hot-plug Anschluss – Ohne Datenbank Downtime 39 Verkabelung 40 Besonderheiten • Kein NVMe Support in der Oracle Database Appliance – NVMe ist mit OVM nicht supported – OVM ist die Virtualisierungssoftware für die ODA • 10 GbE standardmäßig nur über Kupferkabel (Cat 6) – 10 GbE optisch möglich – Verlust der Infinibandverbindung der Server – Infinibandkabel gut für In-Memory-Option • Die Infinibandkabel nicht scharf knicken!!!!!! 41 Netzwerkanschlüsse External 10GBase-T net 3 (bond1) External 10GBase-T net 2 (bond1) Interconnect Port IB 1 (ibbond0) Interconnect Port IB 2 (ibbond0) 42 External 10GBase-T net 1 (bond0) External 10GBase-T net 0 (bond0) Processor Node Sockets/node Cores / node (total) ODA V1 – Oct 2011 ODA X3-2 – Mar 2013 ODA X4-2 – Dec 2013 ODA X5-2 – Feb 2015 Intel X5675 Intel E5-2690 Intel E5-2697 V2 Intel Xeon E5-2699 V3 processors Built-in (X4370 M2) X3-2 X4-2 X5-2 2 2 2 2 12(24) 16(32) 24(48) 36(72) Max Memory / node (total) 96GB (192GB) 256GB (512GB) 256GB (512GB) 256GB, upgradeable to 768 Boot disks (Free space) 500GB (250GB) 600GB (350GB) 600GB (350GB) 600GB (350GB) Networking 6 x 1GbE NICs 2 x 10GbE fiber NICs 4 x 10GbE Copper NICs 4 x 10GbE Copper NICs (opt public fiber interface) 4 x 10GbE Copper NICs (opt public fiber interface) 2 x 1RU servers & 1 x 2RU disk shelf 2 x 1RU servers & 1 x 2RU disk shelf 2 x 1RU servers & 1 x 4RU disk shelf Form Factor/RU Shared Storage 43 Storage Expansion Single 4U chassis 292GB SSDs 12TB SAS raw 800GB SSDs 18TB SAS raw 800GB SSDs 18TB SAS raw 800GB SSD – REDO 1.6TB SSD – ODA Cache 64TB SAS raw N/A Additional Storage Shelf Additional Storage Shelf Additional Storage Shelf Preisvergleich ODA X4-2 versus X5-2 • ODA X4-2 • ODA X5-2 – 52.158,00€ Liste – 59.104,00€ Liste – 48 Cores – 72 Cores – 2 x 256GB RAM – 18 TB Storage – 2 x 256GB RAM (aufrüstbar auf 768GB) – 800 GB Log Flash – 64 TB Storage – 800 GB Log Flash – 1.6 TB ODA Flash Cache – Infiniband Interconnect 44 ODA als Datenbankplattform • Einfachste Installation • Betrieb als Single Node, RAC oder RAC One-Node – 11gR2 und 12.1.0.2 (In-Memory Option) • Inbetriebnahme in ca 1 – 2 Stunden • „One-Button“ – Patch einfach genial – Über CLI des Appliance Managers – Ein Kommando für alles • oakcli • Ideal für alle Kunden, die keine dedizierte IT Abteilung besitzen • Für Aussenstandorte / Filialen • Die ODA ist optimiert für einfachste Administration • Für maximale Performance nimmt man die Exadata 45 Betriebsmodus „Bare Metal“ (Factory Default) Optimiert für reinen Datenbankbetrieb Knoten 0 Oracle Datenbank Grid Infrastructure • Clusterware • ASM • ACFS • Oracle Linux • Appliance Manager 46 Knoten 1 Oracle Datenbank Grid Infrastructure • Clusterware • ASM • ACFS • Oracle Linux • Appliance Manager Betriebsmodus „Virtualisiert“ (Reimage notwendig) Optimiert für den Betrieb von Datenbank UND Applikationen Knoten 0 Knoten 1 Gast Domain Gast Domain Gast Domain Gast Domain ODA Base DOM0 VM Storage Repository 47 Oracle DB Grid Infrastructure • Clusterware • ASM • ACFS Appliance Manager ODA Base DOM0 VM Storage Repository Oracle DB Grid Infrastructure • Clusterware • ASM • ACFS Appliance Manager Virtualisierte Plattform Spezifika • Dom0 – Default Domain nach Reimaging – Zum Bootstrappen des gesamten Systems • ODA Base – Privilligierte VM für die Datenbank – Fast gleich Geschwindigkeit wie bei einer Bare-Metal Installation – Aufsetzen als Single-Instance, RAC oder RAC One-Node • Gast Domains – VM für Applikationen, Middle Tier Frameworks etc. – Unterstützt Oracle VM Templates – Support für VM Auto-Restart und Failover 48 ODA als Applikations Plattform • Alle Tiers auf einer Plattform • Solution-in-a-box – Oracle Applications • JD Edwards, E-Business Suite, PeopleSoft, Weblogic.... – ISV Applications • O-Box, Temenos – Selbstentwickelte Applikationen 49 EBusiness JD Edwards People Soft Enterprise Manager ISV Apps Lizensierung • Capacity-on-Demand – Lizensiere nur das, was Du brauchst – Kleinste Datenbank mit 2 Cores pro Knoten • 2 x Oracle DB Enterprise Edition • 2 x Oracle RAC • Geht auch Standard Edition? – Im Prinzip ja, aber 50 • man verliert die einfache Administration • man verliert den Support Blickwinkel Was der Buchhalter sieht Enterprise Edition Standard Edition Lizenzen bei der ODA 36 CPU Lizenzen DB EE = 1.484.640€ 36 CPU Lizenzen RAC = 718.884€ Lizenzen bei der ODA 4 CPU Lizenzen DB SE = 60.776€ Total = 2.203.524€ 2 Server, 2 Sockets pro Server, 18 Cores pro Socket Oracle DB EE: 41.240€ Prozessor Lizenz Oracle RAC: 19.969€ Prozessor Lizenz Oracle DB SE: 15.194€ Prozessor Lizenz 51 Testszenario • 2 DB Server mit je 2 x 6 CPU Cores aktiv • DW Star Schema mit zentraler ordersfact-Tabelle departments departmentid departmentname middepartmentid middepartmentname subdepartmentid subdepartmentname salespersonid salespersonname supervisorid regionid regionname time timeid year quarter month day weekday weekno timeid2 52 varchar2(20) varchar2(80) varchar2(20) varchar2(80) varchar2(20) varchar2(80) varchar2(20) varchar2(80) varchar2(20) varchar2(6) varchar2(30) varchar2(8) number varchar2(2) number number number number date ordersfact orderid departmentid department_regionid buyerid buyer_regionid salespersonid productid timeid amount units costs planamount planunits varchar2(8) varchar2(20) number varchar2(20) varchar2(20) varchar2(20) varchar2(8) varchar2(20) varchar2(8) number number varchar2(20) varchar2(6) buyers buyerid buyername regionid regionname salespersonid salespersonname offrate varchar2(20) varchar2(20) varchar2(8) number number varchar2(20) varchar2(20) products productid productname categoryid categoryname midcatagoryid midcategoryname subcategoryid subcategoryname listprice varchar2(8) number number varchar2(80) varchar2(20) varchar2(80) varchar2(20) varchar2(80) number Testszenario - Datenvolumen Departments 11.220 Zeilen Buyers 500.000 Ordersfact 1.000.000.000 Zeilen (1M Zeilen x 28 Tage x 36 Monate) 108 GB Time 1095 Zeilen (365 Tage x 3 Jahre) 53 (3GB / Monat) Products 10.000.000 Query Die Performance wurde gemessen durch eine Abfrage, die die „Top 10“ eines Monat der Tabelle „ordersfact“ und „buyers“ ermittelte. select D1.c1 as c1, D1.c2 as c2 from (select D1.c2 as c1, D1.c1 as c2, case when D1.c2 is not null then Rank() OVER( ORDER BY D1.c2 DESC NULLS LAST) end as c3 from ( select sum (T862.AMOUNT) as c1, T812.BUYERNAME as c2 from TIME T898, BUYERS T812, ORDERSFACT T892 where (T812.BUYERID = T862.BUYERID and T862.TIMEID = T898.TIMEID and T898.MONTH=? and T898.YEAR=? ) group by T812.BUYERNAME where (D1.c3 <= 10) oder by c2 desc; http://www.oracle.com/partners/secure/engage-with-oracle/fwsd-oda-ee-vs-se-1888182.pdf 54 Testergebnis Oracle Database Standard Edition (2 Server, je 6 Cores, RAC) • Nutzt nur 1 CPU pro Query • Keine Parallelisierung einer einzelnen Query • Antwortzeit: 208 Sekunden 55 Testergebnis Oracle Database Enterprise Edition (1 Server, 2 Cores) • Oracle Database Enterprise Edition parallelisiert auch Queries • Antwortzeit: 87 Sekunden • Die Enterprise Edition ist hier 2,3 mal schneller 56 Testergebnis Oracle Database Enterprise Edition (2 Server, je 2 Cores, RAC) • Oracle Database Enterprise Edition parallelisiert auch Queries • Antwortzeit: 53 Sekunden • Die Enterprise Edition ist hier 3,9 mal schneller als die Standard Edition 57 Vergleich 60.776€ 250 208s 200 49.922€ 150 122.418€ 100 87s 53s 50 0 SE 72 Cores RAC (2 Server) 58 EE 2 Cores RAC One Node EE RAC 4 Cores Abschluss / Summary • ODA Deep-Dive: https://apex.oracle.com/pls/apex/f?p=9520:32:::::P32_EVENT_ID:101380 • Inspire IT Veranstaltung http://www.inspireitcon.de • Fridays with Sohan Webcasts http://www.oracle.com/partners/en/most-popular-resources/nadatabaseappliance-fridaysessions-1522340.html • Azlan Webseite http://go-and-grow.de 59 Fragen? [email protected]