Improving Enzyme Prediction with Chemical Reaction Equations by Hypergraph-Enhanced Knowledge Graph Embeddings

01 · Problem

효소 예측의 병목은 모델보다 supervision의 형태에 있다

효소가 어떤 기질과 반응하는지 알아내는 일은 drug discovery에서 biofuel production까지 넓은 응용을 가진다. 기존 ML은 BRENDA·KEGG처럼 전문가가 정리한 enzyme-substrate pair를 주로 학습한다. 문제는 이 pair가 정확한 대신 비싸게 만들어지고 불완전하다는 점이다.

논문은 대안을 화학 반응식에서 찾는다. 반응식은 여러 compound가 어떤 효소를 거쳐 product로 변환되는지를 한 번에 담는다. pair 하나보다 구조적 맥락이 풍부하고 domain database에 더 많이 존재한다. 하지만 그 풍부함이 곧 난점이다. 하나의 반응에 여러 educt와 product가 등장하므로 어떤 compound가 효소의 핵심 substrate인지 모호하며, 서로 다른 반응 사이에 compound가 중복되어 noisy collaboration이 생긴다.

더 큰 문제는 annotation의 불완전성이다. BRENDA의 22,196 enzyme-substrate pair 중 동일 compound를 포함하는 reaction equation과 정렬되는 pair는 7,472개뿐이다. 또 저자들은 reaction database에서 약 40%의 substrate가 다섯 개보다 많은 compound와 match된다고 보고한다. BKM-react처럼 EC number만 있고 PDB ID가 없는 식도 많다.

02 · Figure 1

한 substrate를 직접 검색하면 두 종류의 모호성이 동시에 나타난다

페이지 2 Figure 1은 2-heptanone을 query로 둔 toy example을 보여준다. 첫째, 동일 substrate가 여러 biochemical process에 참여할 수 있다. 둘째, 어떤 reaction에는 enzyme annotation이 빠져 있다. 이때 structurally related reaction—예를 들어 2-nonanone과 NADH가 Q9Y9P9에 의해 변환되는 식—이 missing enzyme을 추론하는 collaborative clue가 된다.

여기서 중요한 변화는 “반응식에 compound와 enzyme이 같이 등장했으니 pair다”라는 단순 co-occurrence를 쓰지 않는다는 점이다. Hyper-Enz는 compound set 전체를 hyperedge로 두고, hyperedge끼리 어떤 방식으로 겹치는지를 별도 관계로 모델링한다.

03 · Preliminaries

Equation-level relation prediction과 pair-level retrieval을 분리한다

효소 집합을 \(\mathcal{M}=\{m_1,\dots,m_{|\mathcal M|}\}\), compound 집합을 \(\mathcal C\), complete reaction equation 집합을 \(\mathcal Q\)라고 한다. 하나의 반응은 다음 triple로 쓴다.

여기서 \(S\)는 educt set, \(P\)는 product set이다. reversible reaction이나 shared cofactor 때문에 \(S\cap P\)가 비어 있지 않을 수도 있다. 효소 정보가 없는 식은 \(\mathcal Q'\)로 둔다.

이를 knowledge graph 관점으로 옮기면 entity는 개별 compound가 아니라 educt/product set이다. 즉 \(\mathcal K=\{E,R,T\}\)에서 \(E=\mathcal S\cup\mathcal P\), \(R=\mathcal M\), \(T=\mathcal Q\)이다. equation-level task는 \(\langle S,?,P\rangle\)에 대해 모든 enzyme relation을 rank하는 relation prediction이다.

pair-level에서는 substrate 집합 \(\mathcal S_u\subset\mathcal C\)의 한 substrate \(s_u\)가 주어졌을 때 반응 가능성이 높은 top-\(k\) enzyme을 순위화한다. 기존 binary classification과 달리 저자들은 실제 wet-lab validation의 비용을 고려해 이 문제를 retrieval로 재정의한다.

04 · Hyperedge representation learning

반응식을 pair로 쪼개지 않고 educt set과 product set을 hyperedge로 보존한다

standard KG triple은 두 entity를 relation 하나가 잇는다. 그러나 Hyper-Enz의 head와 tail은 compound 하나가 아니라 compound set이다. 평균 pooling으로 set을 하나의 vector로 축약하면 permutation invariance는 얻지만 reaction 내부의 high-order interaction을 잃는다.

그래서 저자들은 두 단계 구조를 만든다. 첫 단계에서 vertex는 compound이고, 각 educt set과 product set이 하나의 hyperedge가 된다. 즉 \(\mathcal V\equiv\mathcal C\), \(\mathcal E\equiv\mathcal S\cup\mathcal P\)이다. compound-to-hyperedge incidence를 \(\mathbf H^{(1)}\), hyperedge-to-hyperedge adjacency를 \(\mathbf H^{(2)}\)로 둔다.

페이지 3 Figure 2의 toy equations는 \(q_1:c_1+c_2\rightarrow c_3+c_4\), \(q_2:c_2+c_3\rightarrow c_4\)이다. 두 hyperedge가 educt를 공유하거나 product를 공유하거나, 한쪽 educt가 다른 쪽 product와 겹치면 edge를 연결한다. 마지막 경우가 cross-sharing이다. 즉 E→E relation은 homogeneous가 아니라 세 타입의 heterogeneous collaboration이다.

target hyperedge마다 \(\mathbf H^{(2)}\)에서 \(\eta_1\)개의 hyperedge neighbor를 뽑고, 그 neighbor들에서 \(\mathbf H^{(1)}\)을 따라 \(\eta_2\)개의 1-hop compound neighbor를 샘플링한다. 이 sub-hypergraph가 transformer의 입력이 된다.

05 · Hypergraph transformer

Message passing은 compound 안쪽과 reaction 바깥쪽의 구조를 동시에 본다

논문은 AllSet/STHGCN 계열의 classic hypergraph transformer를 사용한다. target hyperedge \(i\)는 neighbor hyperedge \(j\)의 hidden representation과 두 hyperedge 사이 relation vector \(\mathbf r_{ij}\)를 message로 받아 propagation한다.

초기 compound feature \(\mathbf x_v\)는 추가 chemical descriptor 없이 random vector로 초기화한다. multi-head scaled dot-product attention, residual connection, layer normalization, MLP를 거쳐 \(l\) layer 후 head/tail entity에 해당하는 hyperedge embedding \(\mathbf S,\mathbf P\)를 얻는다.

06 · Figure 3

Hyper-Enz는 encoder 하나가 아니라 hypergraph encoder, KGE decoder, expert decision의 세 층이다

training에서 hypergraph encoder와 PairRE decoder는 complete equation set \(\mathcal Q\)를 supervision으로 최적화한다. incomplete equation \(\mathcal Q'\)도 hypergraph construction에 들어가 구조적 collaboration을 제공한다. inference에서는 \(\mathcal Q'\)의 missing enzyme을 relation prediction으로 impute한다.

pair-level prediction에서는 세 expert가 서로 다른 지식 source를 사용한다. complete equation을 직접 찾는 KB expert, incomplete equation까지 구조적으로 보완하는 Hyper-Enz expert, enzyme-substrate pair 자체에서 학습한 ML expert를 합친다.

07 · KGE decoder

왜 PairRE인가: enzyme relation이 reversible·irreversible·inverse pattern을 모두 가질 수 있기 때문이다

각 complete reaction의 head/tail hyperedge embedding을 \(\mathbf S,\mathbf P\), enzyme embedding을 head-specific \(\mathbf m^H\), tail-specific \(\mathbf m^T\)로 두고 PairRE distance를 사용한다.

\(\circ\)는 Hadamard product이다. 학습에는 self-adversarial negative sampling을 사용한다.

\(\gamma\)는 fixed margin이다. 모델이 complete equation에서 enzyme-aware relation geometry를 학습하면, missing enzyme equation에 모든 enzyme relation을 대입해 순위를 만들 수 있다.

08 · Multi-expert decision

모든 substrate가 같은 종류의 지식을 갖고 있지 않으므로 expert 조합도 달라진다

substrate가 complete와 incomplete equation 모두에 있으면 세 expert를 모두 사용한다. incomplete에만 있으면 M2+M3, complete에만 있으면 M1+M3, equation database 어디에도 없으면 M3만 사용한다.

expert별 logit scale이 다르므로 먼저 z-score normalize한 뒤 weighted sum한다.

이 구조는 MoE와 닮았지만 gate network를 end-to-end로 학습하지 않는다. 저자들은 expert score를 정규화하고 수동 weight search로 결합한다.

09 · Equation-level experiment

EQ50k는 complete 38,861식과 incomplete 42,714식을 함께 보유한다

실험은 CentOS Linux 7, PyTorch, 4×42GB A100 환경에서 수행된다. EQ50k는 BRENDA와 PubChem을 중심으로 구축하고 BKMS-react를 이용해 incomplete reaction을 확장한다. complete equation \(\mathcal Q\)는 38,861개, compound 15,772개, enzyme 17,401개다. incomplete equation \(\mathcal Q'\)는 42,714개이며 compound는 \(\mathcal Q\)에 등장한 것들로 제한한다. complete set은 8:1:1로 train/validation/test split한다.

baseline KGE는 TransE, RotatE, PairRE, ComplEx, Rot-Pro이고 GNN은 LightGCL과 HL-GNN이다. baseline이 compound set을 직접 처리하지 못하므로 educt/product set의 mean representation을 head/tail entity로 사용한다.

learning rate는 \(10^{-3}\), batch size 512다. embedding dimension은 {64,128,256,512}, \(\eta_1\)은 {5,10,30,50}, \(\eta_2\)는 {1,3,5,10}, negative samples는 {100,200,400}, dropout은 {0.1,0.3,0.5}, regularization weight는 {0.001,0.005,0.01,0.05}에서 탐색한다.

10 · Table 2

Equation-level에서는 Hyper-Enz가 MR·MRR·Hit@1/3/10을 모두 끌어올린다

Homo variant는 educt/product hyperedge 타입을 구분하지 않고 세 sharing relation을 하나로 합친다. full model이 이를 앞선다는 결과는 heterogeneous collaboration 자체가 기여함을 보여준다. MLP decoder도 equation-level에서 MRR .275로 꽤 강하지만, 뒤의 pair-level large incomplete setting에서는 KGE를 제거했을 때 손실이 더 커진다.

Random variant와 full Hyper-Enz 비교는 SMILES/EC feature 같은 추가 구조 정보가 성능에 긍정적이라는 저자들의 설명과 함께 제시된다. 다만 Section 3.1은 compound node feature x_v를 additional chemical feature 없이 random vector로 직접 초기화한다고 쓰고, Table 2 설명은 Random variant가 SMILES/EC-derived feature 대신 random initialization을 쓴다고 적는다. 어느 parameter block에 어떤 initialization이 적용되는지 본문만으로는 완전히 명확하지 않다. Appendix ReactZyme 비교 역시 explicit chemical/protein feature 없이 random embedding에서 시작하는 특성을 강조한다.

11 · Figure 4

Neighbor를 너무 적게 샘플링하면 collaboration을 잃고, 충분히 모이면 이득이 포화된다

Figure 4는 1-hop hyperedge neighbor와 2-hop compound neighbor sampling size를 바꿔 MRR/Hit@1/3/10을 비교한다. 작은 sampling size에서는 성능이 대체로 떨어진다. 이는 한 reaction만 보는 것보다 주변 reaction의 shared-educt/shared-product/cross-share 정보를 충분히 모으는 것이 중요하다는 뜻이다.

반대로 sampling size가 커진다고 계속 좋아지지는 않는다. 최적 구간 이후에는 plateau가 나타난다. 저자들은 필요한 neighbor가 사실상 다 포함되고 난 뒤 더 많은 sampling이 추가 정보를 거의 주지 않기 때문이라고 해석한다.

12 · Pair-level experiment

ES-23k-M은 domain knowledge와 의도적으로 더 많이 겹치게 만든 sparse split이다

pair-level dataset은 EnzRank가 공개한 BRENDA 기반 22,196 enzyme-substrate pair, 12,196 enzyme, 10,170 substrate로 구성되며 이 글에서는 논문 명칭대로 ES-23k라 부른다. 원 test 2,220 pairs 중 612는 complete와 incomplete equation 모두에 match되고, 758은 complete \(\mathcal Q\)에만, 998은 incomplete \(\mathcal Q'\)에만 match된다.

저자들은 같은 train/validation/test ratio를 유지하면서 domain knowledge와 align되는 pair를 test에 더 많이 배치한 ES-23k-M을 다시 만든다. 이 split은 ES-23k보다 더 sparse하지만, equation knowledge를 더 넓게 활용할 수 있어 multi-expert의 효과를 보기 좋은 설정이다.

baseline은 BPR, NMF, NGCF, DGCF, EnzRank, Boost-RS, Boost-RS(CC), MEIGCN, FusionESP다. 기존 baseline은 binary classification 모델이므로 training에서 random negative sampling을 추가해 multi-candidate ranking이 가능하도록 맞춘다. ML expert는 EnzRank다.

expert weights는 \((w_1,w_2,w_3)\in\{(0.1,0.1,0.8),(0.1,0.3,0.6),(0.1,0.7,0.2),(0.3,0.1,0.6),(0.4,0.1,0.5),(0.7,0.1,0.2)\}\)에서 탐색한다.

13 · Table 3

Pair-level에서도 Hyper-Enz가 두 split의 모든 metric에서 가장 좋다

ES-23k-M의 MRR은 EnzRank .165에서 Hyper-Enz .215로 올라 약 30% 상대 개선이며 abstract의 pair-level 30% 개선과 연결된다. domain knowledge와 test overlap이 더 큰 split에서 gain이 더 크다는 점은 complete/incomplete equation expert가 실제로 추가 정보를 제공한다는 해석과 일치한다.

14 · Table 4 + Figure 6

Hypergraph, KGE, KB expert, Hyper-Enz expert가 모두 필요하지만 기여 방식은 다르다

hypergraph를 mean pooling으로 바꾸면 MRR .215→.165로 가장 크게 하락한다. KB expert를 제거하면 .168, Hyper-Enz expert를 제거하면 .170이다. 이 결과는 complete equation의 exact retrieval과 incomplete equation의 structural inference가 둘 다 필요함을 보여준다.

Figure 6은 expert weight sensitivity를 보여준다. KB expert weight \(w_1\)이 약 0.7일 때, Hyper-Enz weight \(w_2\)가 약 0.3일 때 성능이 peak한다. Hyper-Enz의 weight가 작아도 incomplete reaction에서 KB가 놓치는 signal을 보완하므로 양의 기여가 남는다.

15 · Figure 5

Test에 처음 등장한 hyperedge도 training graph의 sharing relation으로 표현한다

equation-level test triple \((S,e?,P)\)에는 train에 없던 새로운 educt/product hyperedge가 등장할 수 있다. Figure 5는 testing educt set \(S=\{c_2,c_4\}\)의 예를 든다. 새 hyperedge를 graph에 무작정 재학습하는 대신 training incidence와 test incidence의 product를 이용해 기존 hyperedge와의 sharing information을 계산한다.

그 collaboration neighborhood에 대해 Section 3.1의 forward propagation만 수행해 new hyperedge representation을 얻는다. 즉 inference-time inductive step이 hyperedge 단위로 존재한다.

평가는 filtered relation prediction protocol을 따른다. 정답 enzyme을 다른 모든 enzyme으로 corrupt하고, train/validation/test에 이미 valid triple로 존재하는 corrupted case는 제외한 뒤 rank한다. MR은 낮을수록, MRR과 Hit@\(k\)는 높을수록 좋다.

16 · Case study

Explicit KB가 비어 있어도 Hyper-Enz가 D-psicose의 정답 효소를 1위에 놓는다

test pair는 substrate D-psicose, ground-truth enzyme Q6QWR1이다. 대응하는 incomplete reaction은 D-psicose → D-allose다. KB expert는 enzyme을 제공하지 못한다.

이 사례에서 Hyper-Enz가 하는 일은 chemical similarity search가 아니라 related reaction hyperedge의 collaboration을 이용해 missing relation을 복원하는 것이다.

17 · Appendix A

Equation KG의 enzyme relation은 세 가지 pattern을 가져 PairRE와 잘 맞는다

Symmetry. \(\langle S,m,P\rangle\Rightarrow\langle P,m,S\rangle\)이면 같은 enzyme이 reversible reaction의 양방향을 촉매한다.

Asymmetry. \(\langle S,m,P\rangle\)이 \(\langle P,m,S\rangle\)을 함의하지 않으면 irreversible reaction이다.

Inversion. \(\langle S,m_1,P\rangle\Rightarrow\langle P,m_2,S\rangle\)이면 서로 다른 enzyme이 역방향 reaction을 담당한다.

Appendix는 일반 PairRE score를 다음과 같이 쓴다.

symmetry에서는 \(\mathbf r_h=\mathbf r_t\), inverse relation에서는 \(\mathbf r_{1h}=\mathbf r_{2t}\), \(\mathbf r_{1t}=\mathbf r_{2h}\) 같은 조건으로 해당 pattern을 표현할 수 있다. 저자들이 PairRE를 선택한 이유는 enzyme relation geometry가 단일 translation보다 복잡하기 때문이다.

18 · Appendix B

ReactZyme은 explicit molecular/protein feature를 쓰고, Hyper-Enz는 reaction network structure를 쓴다

두 방법 모두 enzyme-reaction prediction을 retrieval로 정의한다. ReactZyme은 SMILES와 protein sequence를 pretrained molecule/protein encoder(예: ESM, AlphaFold)로 표현하고 substrate-product cross-attention으로 reaction embedding을 만든다. Hyper-Enz는 symbolic entity를 random embedding에서 시작해 reaction equation의 statistical/structural co-occurrence를 학습한다.

SMILES가 없는 compound 때문에 ReactZyme feature와 align 가능한 subset은 Ours-Align처럼 크게 줄어든다.

Hyper-Enz가 MRR와 Hits에서는 크게 앞서지만 MR은 ReactZyme 쪽이 훨씬 낮다. 저자들은 pretrained encoder가 compound/protein을 unified embedding space에 align하기 때문에 sparse aligned data에서 average rank에 이점이 있을 수 있다고 본다. 반면 Hyper-Enz는 random initialization이라 sparse setting에서 충분히 학습되지 않을 가능성이 있다.

19 · Appendix C

Reaction completeness에 따라 가장 좋은 expert 조합이 달라진다

ES-23k를 four subsets로 나눈다. \(S_1\): complete reaction만 match, \(S_2\): incomplete만 match, \(S_3\): 둘 다 match, \(S_4\): 어떤 reaction도 match하지 않음이다. Table 8은 Hit@10을 보고한다.

complete reaction만 있는 \(S_1\)에서는 full expert가 0.60으로 KB+ML 0.62보다 약간 낮다. 즉 Hyper-Enz가 완전한 명시 지식에 noise를 추가할 수 있다. 반면 mixed \(S_3\)에서는 full combination 0.48이 가장 좋다. incomplete \(S_2\)에서는 Hyper-Enz가 0.28→0.45로 큰 보완을 한다. equation이 전혀 없는 \(S_4\)에서는 어느 조합도 ML expert 0.32를 넘지 못한다.

20 · Appendix D

Hypergraph는 더 무겁지만 test-time은 비교 baseline보다 빠르다

Hyper-Enz는 TransE/PairRE보다 parameter와 memory가 크고 train/epoch도 느리다. 대신 reported test time은 15초로 가장 짧다. 저자들은 theoretical complexity를 slot 수 \(S\)와 embedding dimension \(d\)에 선형인 \(O(S\cdot d)\)로 정리한다.

Data scale 변화

graph가 작아질수록 parameter, train/test time, memory가 모두 줄어든다. 반대로 large biochemical network에서는 \(\mathbf H^{(1)}\), \(\mathbf H^{(2)}\)가 dense해지면서 hypergraph construction과 sampling이 비싸진다. 논문은 fixed \((\eta_1,\eta_2)\) sampling으로 계산 확장을 제한한다. embedding dimension과 model depth도 memory와 forward/backward cost에 직접 영향을 준다.

21 · Appendix E

실제 생화학에서는 “같이 등장했다”가 substrate라는 뜻이 아니다

Appendix E는 human domain expert와 상의해 Hyper-Enz가 겨냥하는 practical ambiguity를 세 사례로 설명한다.

ATP: co-substrate와 primary substrate를 구분해야 한다

ATP는 reaction에 있지만 hexokinase의 primary substrate는 glucose이고 ATP는 phosphate donor다. 반면 ATPase에는 ATP가 실제 substrate다. 따라서 reaction co-occurrence만으로 ATP-hexokinase pair를 직접 supervision으로 만들면 역할을 잘못 배정할 수 있다.

NAD+: cofactor도 enzyme-substrate pair처럼 보일 수 있다

NAD+는 electron acceptor이고 primary substrate는 lactate다. 그러나 NADase/NAD synthase에서는 NAD+가 실제 substrate가 될 수 있다. paper는 reported substrate의 40% 이상이 서로 다른 reaction에서 다섯 개 이상 enzyme과 co-occur한다고 적어 spurious pairing 위험이 크다고 강조한다.

Explicit KB가 misleading한 phenanthridine case

test pair는 phenanthridine–P48034(putative)이고, KB가 찾은 reaction은 H2O, O2, phenanthridine → 6-phenantridone, H2O2이며 enzyme P05091로 annotated되어 있다. 즉 KB expert 자체가 ground truth와 다른 enzyme을 제시한다.

이 사례에서 Hyper-Enz는 KB의 misleading co-occurrence를 그대로 따르지 않고 collaboration structure로 correct enzyme을 1위에 놓는다.

Cascade reaction: 같은 compound가 product였다가 다음 단계의 substrate가 된다

precorrin-3A는 첫 step에서는 product, 다음 step에서는 substrate다. 중간 enzyme이 missing이면 uniform pair model이 방향성을 혼동할 수 있다. Hyper-Enz는 educt와 product를 서로 다른 hyperedge type으로 두고 별도 message passing에 참여시키므로 role-specific behavior를 보존한다. 저자들은 cascade reaction 전용 dataset을 future direction으로 제안한다.

22 · Related work

Hyper-Enz는 enzyme ML, KGE, hypergraph learning의 세 흐름을 결합한다

Enzyme-substrate interaction. Boost-RS는 molecular fingerprint와 compound-compound biotransformation auxiliary task로 recommendation을 보강한다. EnzRank는 enzyme sequence와 substrate signature를 CNN으로 점수화한다. ESP는 transformer와 GNN fingerprint를 사용하고 augmented negative example을 쓴다. ReactZyme은 molecular conformation/protein structure 기반 benchmark를 제공한다.

Knowledge graph embedding. TransE, RotatE, Rot-Pro, PairRE, HousE는 relation-specific geometry 기반 distance score를 설계한다. DistMult, ComplEx, TuckER는 embedding similarity/tensor factorization 계열이며 ConvE/ConvKB는 convolution, GAATs/NBFNet은 GNN을 사용한다.

Hypergraph learning. HGNN과 HyperGCN이 초기 hypergraph convolution을 열었고, AllSet은 Deep Sets/Set Transformer message passing으로 확장한다. HCCF는 recommendation에서 local/global collaboration을, STHGCN은 Next-POI에서 heterogeneous behavior와 hyperedge collaboration을 다룬다. Hyper-Enz는 이 구조를 biochemical reaction equation의 educt/product role에 맞게 옮긴다.

23 · Limits and critical reading

Hyper-Enz의 강점은 구조적 supervision이지만, 같은 이유로 coverage와 scale에 민감하다

Alignment coverage. 22,196 BRENDA pair 중 reaction equation과 직접 정렬되는 pair가 7,472개에 그친다. multi-expert가 이 gap을 완화하지만, equation database와 연결되지 않는 \(S_4\)에서는 ML expert 이상의 추가 이득이 없다.

Complete knowledge가 있을 때 structural expert가 noise를 만들 수 있다. Appendix C에서 \(S_1\)은 KB+ML 0.62가 full expert 0.60보다 높다. 모든 query에 Hyper-Enz를 강하게 섞는 것이 최적은 아니다.

Feature-free abstraction의 양면성. reaction structure만으로 general relational pattern을 학습하는 것은 장점이지만, Appendix B에서 저자들이 인정하듯 random embedding은 sparse aligned setting에서 충분히 훈련되지 않을 수 있다. pretrained molecule/protein representation과의 hybrid가 열려 있다.

Scalability. incidence/adjacency matrix가 커지면 hypergraph construction과 node sampling 비용이 증가한다. fixed neighbor sampling은 계산량을 묶지만, 매우 큰 reaction network에서 정보 손실과 계산 절충을 어떻게 잡을지는 별도 검증이 필요하다.

Training description의 모호성. Section 3.2 본문은 Hyper-Enz를 \(\mathcal Q\cup\mathcal Q'\) 위에서 train한다고 쓰지만, Figure 3 caption은 hypergraph construction에는 두 pool을 쓰되 encoder/decoder는 \(\mathcal Q\)로 optimize한다고 설명한다. 불완전 식이 loss에 직접 들어가는지 구조적 context로만 쓰이는지는 paper text만으로 완전히 명료하지 않다.

Evaluation split의 의미. ES-23k-M은 domain knowledge와 align되는 pair를 test에 적극 배치해 knowledge-enhanced setting을 측정한다. 이는 모델의 목표에는 적절하지만 “완전히 새로운 compound/enzyme에 대한 cold-start generalization”과 같은 질문을 직접 분리해 답하는 실험은 아니다.

24 · Conclusion and future work

다음 과제는 더 많은 equation annotation과 causal reasoning이다

저자들은 Hyper-Enz가 complete/incomplete chemical equation을 함께 사용해 missing enzyme을 보완하고, equation-level task와 dataset, multi-expert pair-level retrieval을 하나의 framework로 연결했다고 정리한다. 향후에는 equation-level annotation을 확장하고 causal inference를 도입해 reaction data가 enzyme-substrate prediction을 더 정확히 guide하도록 만들 계획이다.

Appendix의 domain expert feedback까지 합치면 추가적으로 cascade reaction 전용 dataset도 자연스러운 후속 과제다. 동일 compound가 step마다 product와 substrate 역할을 바꾸는 상황은 Hyper-Enz의 heterogeneous hyperedge 설계를 직접 시험할 수 있는 설정이다.

25 · Key takeaways

핵심 정리