�ݺ�ߣ

Файберы
Невытесняющая многозадачность
на Java

public final class RequestCreateAvatar {
private final String avatarName;

}
S
private final Character character;
R
void createAvatar(String avatarName, Character character) {
MsgRequest
sendCmd(new RequestCreateAvatar(avatarName, character));
Async<Void> createAvatar(String avatarName, Character character) {
}
CreateAvatarResult result = call(avatarManager.createAvatar(
avatarName, characterfinal class CreateAvatarHandler {
public
)); RequestHandler()
public void handle(RequestCreateAvatar msg) {
sendMsgToClient(result); CreateAvatarResult result = avatarManager.createAvatar(msg);
sendMsg(new ResponseCreateAvatar(result));
MsgResponse
return nothing(); }
} }

public final class CreateAvatarResponseHandler {
public void handle(ResponseCreateAvatar msg) {
sendMsgToClient(msg); ResponseHandler()
}
}

Причины
• Хочется писать простой линейный Java-код
• ОС-потоки слишком накладны
• Требуется сохранить однопоточный дизайн

С высоты птичьего полёта
Инструментатор Планировщик

Рантайм Инспекции

Синтаксис (1)
import fibers.Async;
import static fibers.Fiber.*;

Async<Integer>{ calcResult(int factor) {
class Foo
Async<Integer> calcResult(int factor) {
return result(42*factor);
return result(42*factor);
Async<Integer> doWork() {
} }

int tmp Async<Integer> doWork() {
= сall(calcResult(314));
int tmp = call(calcResult(314));
return result(tmp);
return result(tmp);
} }
}

Синтаксис (2)
class Foo {
void bar(FiberManager f) {
f.scheduleFiber(doWork("Hi!"));
}
}

Препарируемый метод
Async<String> baz(String second) {
String first = call(getFirst());
return result(join(first, second));
}

Замена исходного метода
Async<String> baz(String second) {
return new baz_Context(second);
}

Контекст вызова метода
class baz_Context extends Async<String> {
String _second, first;

@Override
void update() { state = baz_Async(this); }
}

Инструментированный метод
int baz_Async(baz_Context c) {
switch (c.state) {
case 0: c.result = getFirst(); return 1;
case 1: c.first = (String) c.takeResult();
c.result = join(c.first, c._second);
return -1;
}
}

Инструментирование (1)
• Поиск точек разрыва
– call
– yield
• Вставка switch-case и return

• Как обойти вызов Async<Integer> foo() {
блока finally? try {
int t = call(bar());
• Не вызывать его!
return result(t);
} finally { close(); }
}

• Подмена доступа к параметрам метода и
локальным переменным
• int x; x = 42;  context.x = 42;

...
case 42
... Context r = new bar_Context();
x = call(bar()); c.pushCall(r);
...
return 43;
case 43:
c.x = (String) c.takeResult();
...

• Директивы, ссылающиеся на исходный файл,
вставляются инструментатором в
сгенерированный метод
• Это позволяет использовать пошаговую
отладку
• Ограничение: нельзя с помощью Step Over
перейти через точку разрыва

Исключения
• Рантайм ловит все исключения, вылетевшие из
Async-метода
• Исключение заворачивается в служебный объект
• При запросе результата вызывающим Async-
методом исключение выбрасывается заново
• Если исключение вылетает за пределы файбера, то
это диагностируется как ошибка

Прерывание файбера
• В каждой точке входа в Async-метод
проверяется, не был ли прерван текущий
файбер
• Если файбер был прерван, то
выбрасывается служебное исключение
FiberInterruptedException

Функции FiberManager
• Планировщик
• Обрабатывает приостановку,
возобновление и прерывание файберов
• У всех файберов одинаковый приоритет

Гарантии FiberManager
• Файберы должны исполняться в порядке
добавления и возобновления
• Приостановленные файберы не должны
исполняться

Thread safety
• Методы scheduleFiber() и resumeFiber()
могут выполняться из любого потока
• Все остальные методы – только из потока, к
которому привязан планировщик
• На каждый поток есть свой планировщик

StackTrace (1)
• Stack trace из new Throwable().getStackTrace() не
достаточен
• Программист хочет видеть:
– стек Async-методов
– стек в момент порождения файбера
• Файбер может быть создан внутри другого файбера
• Stack trace должен разрешаться (resolve) только
тогда, когда он реально необходим

StackTrace (2)
• Рантайм получает уже готовое исключение
• К этому исключению нужно добавить
– стек файбера
– стек момента порождения файбера
• Используется addSuppressed()

StackTrace (3)
• Переопределяется метод fillInStackTrace(),
чтобы не собирать обычный stack trace
• Массив StackTraceElement[] формируется
только по запросу getCause() и при
сериализации

java.lang.Throwable
at asserts.Verify.fail(Verify.java:47)
at gm.cc.c.t.CmdTeleportRandomByMapType.asyncRun$Async(CmdTeleportRandomByMapType.jav
at gm.cc.c.t.CmdTeleportRandomByMapType$Context_asyncRun_LmsgSystem#locales#Abonent_.
at f.i.AsyncImpl.updateSafe(AsyncImpl.java:37)
at f.i.FiberImpl.updateInternal(FiberImpl.java:154)
at f.i.FiberImpl.update(FiberImpl.java:130)
at f.i.FiberManagerAbstract.updateFiber(FiberManagerAbstract.java:297)
...
at java.lang.Thread.run(Thread.java:722)
Suppressed: f.i.FiberStackTraceHolderException: Fiber stack trace
Caused by: f.i.FiberStackTraceHolderException$Helper
at asserts.Verify.fail(Verify.java:47)
at gm.cc.c.t.CmdTeleportRandomByMapType.asyncRun(CmdTeleportRandomByMapType.java
at ms.l.AsyncMsg.run(AsyncMsg.java:37)
at ms.i.mp.ServerMsgPublisher.processMsg(ServerMsgPublisher.java:331)
at ms.i.mp.ServerMsgPublisher.addMsgFast(ServerMsgPublisher.java:118)
...
at java.lang.Thread.run(Thread.java:722)

Узкие места (1)
• Инструментатор меняет сигнатуру метода
• Служебные методы call() и result() вырезаются,
чтобы байткод соответствовал новой сигнатуре
• Об этом не догадывается IntelliJ Idea, которая
вставляет проверки на != null
• Инструментатор вырезает такие проверки из
Async-методов

• Если Async-метод декларирует throws
SomeUncheckedException
– синтаксис java потребует его обработки
– catch-блок для этого исключения никогда не будет
вызван
– исключение пролетит в рантайм, т. к. для него нет
соответствующего catch

• Синтаксис не запрещает вызов Async-
метода из обычного
• Вызываемый метод не исполнится

• Точки разрыва не могут быть в блоке finally
• Причина: в этом случае исключение может
быть проигнорировано

Альтернативные решения
• Apache Javaflow
• DaVinci VM
• Kilim

С е р ге й З а г ур с к и й
в е д у щ и й п р о г р а м м и с т, п р о е к т S k y f o r g e
s.zagurskiy@corp.mail.ru

�ݺ�ߣ

Zagursky

Recommended

More Related Content

What's hot (20)

Viewers also liked (19)

Similar to Zagursky (20)

More from kuchinskaya (11)

Zagursky