SOHET вводит иерархическую архитектуру трансформатора с таблицевыми кодировщиками, специфичными для типа события, и самосупервизированных предобученных целей. Он превосходит существующие методы на 5,8% на задаче обнаружения мошенничества Booking.com и обеспечивает более быструю сходимость с дополнительным приростом в 2,4% за счет предобучения. На бенчмарке EBES, двунаправленный SOHET достигает или превосходит лучшие опубликованные результаты на шести из восьми задач.