Kopiąc Trufle - Odkrywanie tajemnic najmniej zrozumiałego elementu GraalVM
•
0 likes•20 views
Myślisz, że znalezienie trufli jest trudne? Spróbuj zrozumieć Truffle w GraalVM! W tej lekkostrawnej prezentacji zamierzam uprościć to, co skomplikowane, i wyjaśnić rolę Truffle w ekosystemie GraalVM. Kontynuując kulinarną analogię, wyobraź sobie Truffle jako tajemniczy składnik, który wyciąga prawdziwy aromat GraalVM – wspiera wiele języków i zwiększa wydajność, tak jak prawdziwe trufle dodają daniu smak. Przebijemy się przez techniczny żargon i wyjaśnimy, co naprawdę oznacza "framework implementacji języka". Dowiesz się, jak działa Truffle, dlaczego jest ważne, a nawet spróbujemy napisać jakiś kawałek prostego języka – zgodnie z zasadą "słowa są tanie, pokaż mi kod"
![public class DeoptimizationExample {
public static void main(String[] args) {
NumberAdder adder = new SimpleAdder();
for (int i = 0; i < 10000; i++) {
if (i == 5000) {
adder = new LoggingAdder();
}
adder.addRandomNumber(10);
}
}
}
interface NumberAdder {
void addRandomNumber(int base);
}
class SimpleAdder implements NumberAdder {
public void addRandomNumber(int base) {
double result = Math.random() + base;
}
}
class LoggingAdder implements NumberAdder {
public void addRandomNumber(int base) {
double result = Math.random() + base;
System.out.println("Computed value: " + result);
}
}](https://image.slidesharecdn.com/diggingfortruffles-240418135207-34d34b06/85/Kopiac-Trufle-Odkrywanie-tajemnic-najmniej-zrozumialego-elementu-GraalVM-57-320.jpg)
![public class DeoptimizationExample {
public static void main(String[] args) {
NumberAdder adder = new SimpleAdder();
for (int i = 0; i < 10000; i++) {
if (i == 5000) {
adder = new LoggingAdder();
}
adder.addRandomNumber(10);
}
}
}
interface NumberAdder {
void addRandomNumber(int base);
}
class SimpleAdder implements NumberAdder {
public void addRandomNumber(int base) {
double result = Math.random() + base;
}
}
class LoggingAdder implements NumberAdder {
public void addRandomNumber(int base) {
double result = Math.random() + base;
System.out.println("Computed value: " + result);
}
}](https://image.slidesharecdn.com/diggingfortruffles-240418135207-34d34b06/85/Kopiac-Trufle-Odkrywanie-tajemnic-najmniej-zrozumialego-elementu-GraalVM-58-320.jpg)
![public class DeoptimizationExample {
public static void main(String[] args) {
NumberAdder adder = new SimpleAdder();
for (int i = 0; i < 10000; i++) {
if (i == 5000) {
adder = new LoggingAdder();
}
adder.addRandomNumber(10);
}
}
}
interface NumberAdder {
void addRandomNumber(int base);
}
class SimpleAdder implements NumberAdder {
public void addRandomNumber(int base) {
double result = Math.random() + base;
}
}
class LoggingAdder implements NumberAdder {
public void addRandomNumber(int base) {
double result = Math.random() + base;
System.out.println("Computed value: " + result);
}
}](https://image.slidesharecdn.com/diggingfortruffles-240418135207-34d34b06/85/Kopiac-Trufle-Odkrywanie-tajemnic-najmniej-zrozumialego-elementu-GraalVM-59-320.jpg)
![try (Context context = Context.create()) {
Value result = context.eval("js",
"({ " +
"id : 42," +
"text : '42', " +
"arr : [1,42,3] " +
"}))");
assert result.hasMembers();
int id = result.getMember("id").asInt();
assert id == 42;
String text = result.getMember("text").asString();
assert text.equals("42");
Value array = result.getMember("arr");
assert array.hasArrayElements();
assert array.getArraySize() == 3;
assert array.getArrayElement(1).asInt() == 42;
}
GraalVM as library](https://image.slidesharecdn.com/diggingfortruffles-240418135207-34d34b06/85/Kopiac-Trufle-Odkrywanie-tajemnic-najmniej-zrozumialego-elementu-GraalVM-143-320.jpg)
![GraalVM as library
public static class MyClass {
public int id = 42;
public String text = "42";
public int[] arr = new int[]{1, 42, 3};
public Callable<Integer> ret42 = () -> 42;
public static void main(String[] args) {
try (Context context = Context.newBuilder()
.allowAllAccess(true)
.build()) {
context.getBindings(“js").putMember(
"java0bj", new MyClass());
boolean valid = context.eval("js",
" java0bj.id == 42" +
" && java0bj.text == '42'" +
" && java0bj.arr[1] == 42" +
" && java0bj.ret42() == 42")
.asBoolean();
assert valid == true;
}
}
}](https://image.slidesharecdn.com/diggingfortruffles-240418135207-34d34b06/85/Kopiac-Trufle-Odkrywanie-tajemnic-najmniej-zrozumialego-elementu-GraalVM-144-320.jpg)
Kopiąc Trufle - Odkrywanie tajemnic najmniej zrozumiałego elementu GraalVM
- 1. Artur Skowroński Digging for Truffles Unveiling the Mysteries of GraalVM's Least Understood Component
- 2. Artur Skowronski Head of Java / Kotlin Development
- 8. GraalVM
- 9. GraalVM
- 10. GraalVM
- 15. GraalVM
- 16. GraalVM
- 21. 🙇
- 22. 165 ݺߣs / 45? minutes
- 32. Project CRaC JVM Byte Code Interpreter Just-in-Time Compiler Compiled Code 🚀 GraalVM
- 33. Project CRaC ByteCode public static int add(int a, int b) { return a + b; } 0: iload_1 1: iload_2 2: iadd 3: ireturn javac
- 34. Project CRaC ByteCode 0: iload_1 1: iload_2 2: iadd 3: ireturn
- 35. Project CRaC ByteCode 0: iload_1 1: iload_2 2: iadd 3: ireturn
- 36. Project CRaC ByteCode 0: iload_1 1: iload_2 2: iadd 3: ireturn
- 37. Project CRaC ByteCode 0: iload_1 1: iload_2 2: iadd 3: ireturn
- 38. Project CRaC HotSpot Analysis public static int add(int a, int b) { return a + b; } public static int add(int a, int b) { return a + b; } public static int add(int a, int b) { return a + b; } public static int add(int a, int b) { return a + b; } public static int add(int a, int b) { return a + b; } public static int add(int a, int b) { return a + b; }
- 39. Project CRaC HotSpot Analysis Hot Spot 0: iload_1 1: iload_2 2: iadd 3: ireturn
- 40. Project CRaC HotSpot Analysis Hot Spot 0: iload_1 1: iload_2 2: iadd 3: ireturn JIT
- 43. Project CRaC JVM Byte Code Interpreter C1 Compiler Compiled Code 🚀 GraalVM C2 Compiler
- 44. C1 - Client Compiler
- 45. C1 - Client Compiler Client Compiler, zwany również C1, to rodzaj kompilatora JIT zoptymalizowanego pod kątem szybszego czasu startu. Stara się optymalizować i kompilować kod tak szybko, jak to możliwe.
- 46. C2 - Client Compiler
- 47. C2 - Client Compiler Kompilator serwera, zwany również C2, to rodzaj kompilatora JIT zoptymalizowanego pod kątem lepszej ogólnej wydajności. C2 obserwuje i analizuje kod przez dłuższy czas w porównaniu do C1. Pozwala to C2 na dokonanie lepszych optymalizacji w skompilowanym kodzie.
- 48. C2 - Client Compiler Kompilator serwera, zwany również C2, to rodzaj kompilatora JIT zoptymalizowanego pod kątem lepszej ogólnej wydajności. C2 obserwuje i analizuje kod przez dłuższy czas w porównaniu do C1. Pozwala to C2 na dokonanie lepszych optymalizacji w skompilowanym kodzie.
- 53. Optymalizacja dynamiczna Kompilator JIT może rekompilować części kodu w trakcie działania programu dzięki pro fi lingu. Pozwala to na optymalizacje oparte na rzeczywistych danych z czasu wykonania, które kompilatory statyczne nie są w stanie uwzględnić.
- 54. Tiered Compilation Nasz Kod Interpreter C1 C2 Code Cache Deoptimization Zoptymalizowany kod Jeszcze bardziej zoptymalizowany kod Ups… Level 0 Pro fi ling Pro fi ling Level 1 Level 2 Level 3 Level 4
- 57. public class DeoptimizationExample { public static void main(String[] args) { NumberAdder adder = new SimpleAdder(); for (int i = 0; i < 10000; i++) { if (i == 5000) { adder = new LoggingAdder(); } adder.addRandomNumber(10); } } } interface NumberAdder { void addRandomNumber(int base); } class SimpleAdder implements NumberAdder { public void addRandomNumber(int base) { double result = Math.random() + base; } } class LoggingAdder implements NumberAdder { public void addRandomNumber(int base) { double result = Math.random() + base; System.out.println("Computed value: " + result); } }
- 58. public class DeoptimizationExample { public static void main(String[] args) { NumberAdder adder = new SimpleAdder(); for (int i = 0; i < 10000; i++) { if (i == 5000) { adder = new LoggingAdder(); } adder.addRandomNumber(10); } } } interface NumberAdder { void addRandomNumber(int base); } class SimpleAdder implements NumberAdder { public void addRandomNumber(int base) { double result = Math.random() + base; } } class LoggingAdder implements NumberAdder { public void addRandomNumber(int base) { double result = Math.random() + base; System.out.println("Computed value: " + result); } }
- 59. public class DeoptimizationExample { public static void main(String[] args) { NumberAdder adder = new SimpleAdder(); for (int i = 0; i < 10000; i++) { if (i == 5000) { adder = new LoggingAdder(); } adder.addRandomNumber(10); } } } interface NumberAdder { void addRandomNumber(int base); } class SimpleAdder implements NumberAdder { public void addRandomNumber(int base) { double result = Math.random() + base; } } class LoggingAdder implements NumberAdder { public void addRandomNumber(int base) { double result = Math.random() + base; System.out.println("Computed value: " + result); } }
- 60. Tiered Compilation Nasz Kod Interpreter C1 C2 Code Cache Deoptimization Zoptymalizowany kod Jeszcze bardziej zoptymalizowany kod Ups… Level 0 Pro fi ling Pro fi ling Level 1 Level 2 Level 3 Level 4
- 63. GraalVM
- 64. GraalVM GraalVM is a high-performance JDK distribution that compiles your Java applications ahead of time into standalone binaries. These binaries start instantly, provide peak performance with no warmup, and use fewer resources.
- 68. GraalVM
- 69. GraalVM
- 71. GraalVM
- 73. Project CRaC JVM Byte Code Interpreter C1 Compiler Compiled Code 🚀 GraalVM in Just-In-Time (JIT) Compilation Mode C2 Compiler
- 74. Project CRaC GraalVM Byte Code Interpreter Compiled Code 🚀 GraalVM in Just-In-Time (JIT) Compilation Mode Graal Compiler
- 75. Project CRaC HotSpot Analysis Hot Spot 0: iload_1 1: iload_2 2: iadd 3: ireturn JIT
- 76. Project CRaC GraalVM in Just-In-Time (JIT) Compilation Mode Hot Spot 0: iload_1 1: iload_2 2: iadd 3: ireturn Graal Compiler
- 77. Project CRaC GraalVM in Just-In-Time (JIT) Compilation Mode Hot Spot 0: iload_1 1: iload_2 2: iadd 3: ireturn Graal Compiler
- 78. Project CRaC GraalVM in Just-In-Time (JIT) Compilation Mode
- 79. Project CRaC GraalVM in Just-In-Time (JIT) Compilation Mode
- 80. Project CRaC GraalVM in Just-In-Time (JIT) Compilation Mode
- 81. Project CRaC GraalVM in Just-In-Time (JIT) Compilation Mode
- 82. Project CRaC GraalVM in Just-In-Time (JIT) Compilation Mode
- 83. GraalVM in Just-In-Time (JIT) Compilation Mode
- 84. Project CRaC GraalVM Byte Code Interpreter Compiled Code 🚀 GraalVM in Just-In-Time (JIT) Compilation Mode Graal Compiler
- 85. Project CRaC Substrate VM Compiled Code 🚀 GraalVM in Ahead-of-Time (AoT) Compilation Mode Graal Compiler public static int add(int a, int b) { return a + b; }
- 89. Wreszcie możemy przejść do Truf fl e
- 90. GraalVM
- 91. GraalVM in Truf fl e Mode
- 92. GraalVM in Truf fl e Mode
- 93. GraalVM in Truf fl e Mode
- 94. No i znowu dygresja
- 95. GraalVM in Truf fl e Mode
- 96. Jak możemy udowodnić, że ten program działa?
- 97. RICE’S THEOREM (1957) KAŻDA NIETRYWIALNA WŁASNOŚĆ JĘZYKÓW REKURENCYJNIE PRZELICZALNYCH JEST NIEROZSTRZYGALNA
- 98. Statyczne typowania - Zbiór zasad do przestrzegania
- 99. F O R T R A N ( 1 9 5 7 ) Fortran (1957)
- 100. Fortran (1957)
- 101. Lower Bound of Correctness
- 102. Tradeoff: Easy to use / correct List<Integer> integers = new ArrayList<>(); List rawList = integers; rawList.add("hello"); try { Integer num = integers.get(0); } catch (ClassCastException e) { System.out.println("Error: " + e.getMessage()); }
- 103. Dynamiczne Typowanie - Zarządzanie typami w runtime
- 104. function add (a, b) { return a + b; } RUNTIME Wartość w kodzie
- 105. RUNTIME value = 1 type = int a Wartość w kodzie
- 106. RUNTIME Math.abs() value = 1 type = int a Wszystko jest ok
- 107. value = 1 type = int a String.trim() RUNTIME Runtime Exception
- 108. value = 1 type = int a String.trim() RUNTIME Runtime Exception
- 110. Narzut wydajnościowy
- 111. function add(x, y) { return x + y; } // Monomorphic usage console.log(add(1, 2)); console.log(add(3, 4)); // Polymorphic usage console.log(add(1, 2)); console.log(add("3", "4"));
- 112. Dynamic Typing Monomor fi zm, w kontekście optymalizacji silników dynamicznych, odnosi się do sytuacji, w której funkcja jest konsekwentnie wywoływana z argumentami tego samego typu.
- 113. Dynamic Typing Polimor fi zmem: Funkcja jest wywoływana z argumentami różnych typów. Wymaga to od silnika obsługi wielu przypadków i może prowadzić do mniej efektywnego kodu. Megamor fi zmem: Funkcja jest wywoływana z wieloma różnymi typami argumentów, co czyni niemal niemożliwą optymalizację przez silnik.
- 114. function add(a, b) { return a + b; }
- 120. Wracamy do Truf fl e
- 121. GraalVM in Truf fl e Mode GraalVM Byte Code Interpreter Compiled Code 🚀 Graal Compiler Language Interpreter
- 122. GraalVM in Truf fl e Mode GraalVM Language Interpreter
- 123. import com.oracle.truffle.api.dsl.Specialization; import com.oracle.truffle.api.dsl.TypeSystemReference; import com.oracle.truffle.api.nodes.Node; import com.oracle.truffle.api.nodes.NodeInfo; @TypeSystemReference(MyTypeSystem.class) // Define the types recognized in your language @NodeInfo(shortName = "add") public abstract class AddNode extends Node { abstract Object execute(Object a, Object b); @Specialization protected int addIntegers(int a, int b) { return a + b; } @Specialization protected double addDoubles(double a, double b) { return a + b; } // Can add more specializations (e.g., for adding strings, booleans, etc.) }
- 125. add a b R AST z niezainicjowanymi Node U S G I D Main add a b R Tranzycje
- 126. add a b R Pro fi ling AST U S G I D Main add a b R Tranzycje
- 127. add a b R Pro fi ling AST U S G I D Main add a b R Tranzycje
- 128. add a b R Pro fi ling AST U S G I D Main add a b R Tranzycje
- 129. add a b R Pro fi ling AST U S G I D Main add a b R Tranzycje
- 130. add a b R Pro fi ling AST U S G I D Main add a b R Tranzycje
- 131. add a b R Pro fi ling AST U S G I D Main add a b R Tranzycje
- 132. add a b R Ustabilizowane, monformiczne AST Main add a b R
- 133. Po raz ponownie - spekulatywna optymalizacja
- 134. add a b R Guard Nodes Main add a b R a & b instanceof double a & b instanceof String
- 135. Project CRaC Partial Evaluation Graal Compiler
- 136. add a b R Partial Evaluation Main add a b R a & b instanceof double add a R B a & b instanceof String
- 137. add a b R Partial Deoptimization & Repro fi ling add a b R a & b instanceof double a & b instanceof String add a R B Main
- 138. add a b R Partial Deoptimization & Repro fi ling Main add a b R a & b instanceof double U S G I D Tranzycje
- 139. Project CRaC JVM Byte Code Interpreter C1 Compiler Compiled Code 🚀 GraalVM in Just-In-Time (JIT) Compilation Mode C2 Compiler Language Interpreter
- 140. No dobra, to jak to skonsumować
- 141. GraalVM in Truf fl e Mode GraalVM Language Interpreter
- 142. GraalVM as library
- 143. try (Context context = Context.create()) { Value result = context.eval("js", "({ " + "id : 42," + "text : '42', " + "arr : [1,42,3] " + "}))"); assert result.hasMembers(); int id = result.getMember("id").asInt(); assert id == 42; String text = result.getMember("text").asString(); assert text.equals("42"); Value array = result.getMember("arr"); assert array.hasArrayElements(); assert array.getArraySize() == 3; assert array.getArrayElement(1).asInt() == 42; } GraalVM as library
- 144. GraalVM as library public static class MyClass { public int id = 42; public String text = "42"; public int[] arr = new int[]{1, 42, 3}; public Callable<Integer> ret42 = () -> 42; public static void main(String[] args) { try (Context context = Context.newBuilder() .allowAllAccess(true) .build()) { context.getBindings(“js").putMember( "java0bj", new MyClass()); boolean valid = context.eval("js", " java0bj.id == 42" + " && java0bj.text == '42'" + " && java0bj.arr[1] == 42" + " && java0bj.ret42() == 42") .asBoolean(); assert valid == true; } } }
- 149. GraalVM JIT Compiler GraalVM Runtime (SubstratVM) espresso
- 150. GraalVM JIT Compiler Truf fl e GraalVM Runtime (SubstratVM) espresso
- 151. GraalVM Runtime (SubstratVM) GraalVM JIT Compiler Truf fl e espresso
- 153. GraalVM JIT Compiler Truf fl e Espresso GraalVM Runtime (SubstratVM) espresso
- 154. GraalVM JIT Compiler Truf fl e Espresso GraalVM Runtime (SubstrateVM) GraalVM in Just-In-Time (JIT) Compilation Mode
- 155. GraalVM in Just-In-Time (JIT) Compilation Mode
- 156. Espresso GraalVM Byte Code Interpreter Compiled Code 🚀 Graal Compiler Espresso JVM Byte Code Interpreter C1 Compiler Compiled Code 🚀 C2 Compiler Espresso
- 158. Espresso
- 159. Espresso
- 160. GraalVM in Just-In-Time (JIT) Compilation Mode
- 161. GraalVM in Just-In-Time (JIT) Compilation Mode
- 162. vived.io