nx_vcodec_nf_table.nx source
↩ module page · 296 lines · 4916 B
1// nx_vcodec_nf_table.nx -- Stores magic numbers and configuration values for video codec noise filtering operations.
2const K_MAGIC_4096: i64 = 4096
3const K_MAGIC_3264: i64 = 3264
4const K_MAGIC_3549: i64 = 3549
5const K_MAGIC_3734: i64 = 3734
6const K_MAGIC_3741: i64 = 3741
7const K_MAGIC_3718: i64 = 3718
8const K_MAGIC_4090: i64 = 4090
9const K_MAGIC_3891: i64 = 3891
10const K_MAGIC_4051: i64 = 4051
11const K_MAGIC_3868: i64 = 3868
12const K_MAGIC_3088: i64 = 3088
13const K_MAGIC_3658: i64 = 3658
14const K_MAGIC_3879: i64 = 3879
15const K_MAGIC_3609: i64 = 3609
16const K_MAGIC_4141: i64 = 4141
17const K_MAGIC_4075: i64 = 4075
18const K_MAGIC_4154: i64 = 4154
19const K_MAGIC_3869: i64 = 3869
20// nx_vcodec_nf_table.nx -- GENERATED by nx_vcodec_nf_train (do not hand-edit; retrain instead).
21// Trained on bframe_test_decoded.yuv frames 0..7 (frames 8..11 held out for nx_vcodec_nf_gate),
22// codec modes {legacy tf=1, t8-rich} x qp {12,20,32}, deblocked recon -> source, integer LS.
23// license_tier: ORIGINAL (generated)
24func vc_nf_load(tbl: *i64) -> i64 {
25 tbl[0]=0
26 tbl[1]=0
27 tbl[2]=0
28 tbl[3]=0
29 tbl[4]=K_MAGIC_4096
30 tbl[5]=0
31 tbl[6]=0
32 tbl[7]=0
33 tbl[8]=0
34 tbl[9]=0
35 tbl[10]=0
36 tbl[11]=0
37 tbl[12]=0
38 tbl[13]=0
39 tbl[14]=K_MAGIC_4096
40 tbl[15]=0
41 tbl[16]=0
42 tbl[17]=0
43 tbl[18]=0
44 tbl[19]=0
45 tbl[20]=0
46 tbl[21]=0
47 tbl[22]=0
48 tbl[23]=0
49 tbl[24]=K_MAGIC_4096
50 tbl[25]=0
51 tbl[26]=0
52 tbl[27]=0
53 tbl[28]=0
54 tbl[29]=0
55 tbl[30]=0
56 tbl[31]=0
57 tbl[32]=0
58 tbl[33]=0
59 tbl[34]=K_MAGIC_4096
60 tbl[35]=0
61 tbl[36]=0
62 tbl[37]=0
63 tbl[38]=0
64 tbl[39]=0
65 tbl[40]=0
66 tbl[41]=0
67 tbl[42]=0
68 tbl[43]=0
69 tbl[44]=K_MAGIC_4096
70 tbl[45]=0
71 tbl[46]=0
72 tbl[47]=0
73 tbl[48]=0
74 tbl[49]=0
75 tbl[50]=0
76 tbl[51]=0
77 tbl[52]=0
78 tbl[53]=0
79 tbl[54]=K_MAGIC_4096
80 tbl[55]=0
81 tbl[56]=0
82 tbl[57]=0
83 tbl[58]=0
84 tbl[59]=0
85 tbl[60]=0
86 tbl[61]=0
87 tbl[62]=0
88 tbl[63]=0
89 tbl[64]=K_MAGIC_4096
90 tbl[65]=0
91 tbl[66]=0
92 tbl[67]=0
93 tbl[68]=0
94 tbl[69]=0
95 tbl[70]=0
96 tbl[71]=0
97 tbl[72]=0
98 tbl[73]=0
99 tbl[74]=K_MAGIC_4096
100 tbl[75]=0
101 tbl[76]=0
102 tbl[77]=0
103 tbl[78]=0
104 tbl[79]=0
105 tbl[80]=0
106 tbl[81]=0
107 tbl[82]=0
108 tbl[83]=0
109 tbl[84]=K_MAGIC_4096
110 tbl[85]=0
111 tbl[86]=0
112 tbl[87]=0
113 tbl[88]=0
114 tbl[89]=0
115 tbl[90]=104
116 tbl[91]=104
117 tbl[92]=104
118 tbl[93]=104
119 tbl[94]=K_MAGIC_3264
120 tbl[95]=104
121 tbl[96]=104
122 tbl[97]=104
123 tbl[98]=104
124 tbl[99]=0
125 tbl[100]=31
126 tbl[101]=71
127 tbl[102]=91
128 tbl[103]=31
129 tbl[104]=K_MAGIC_3549
130 tbl[105]=120
131 tbl[106]=52
132 tbl[107]=72
133 tbl[108]=79
134 tbl[109]=0
135 tbl[110]=60
136 tbl[111]=75
137 tbl[112]=75
138 tbl[113]=58
139 tbl[114]=K_MAGIC_3734
140 tbl[115]=58
141 tbl[116]=12
142 tbl[117]=12
143 tbl[118]=12
144 tbl[119]=0
145 tbl[120]=43
146 tbl[121]=43
147 tbl[122]=43
148 tbl[123]=43
149 tbl[124]=K_MAGIC_3741
150 tbl[125]=54
151 tbl[126]=43
152 tbl[127]=43
153 tbl[128]=43
154 tbl[129]=0
155 tbl[130]=34
156 tbl[131]=94
157 tbl[132]=99
158 tbl[133]=33
159 tbl[134]=K_MAGIC_3718
160 tbl[135]=121
161 tbl[136]=28
162 tbl[137]=-63
163 tbl[138]=32
164 tbl[139]=0
165 tbl[140]=14
166 tbl[141]=-59
167 tbl[142]=0
168 tbl[143]=15
169 tbl[144]=K_MAGIC_4090
170 tbl[145]=0
171 tbl[146]=26
172 tbl[147]=10
173 tbl[148]=0
174 tbl[149]=0
175 tbl[150]=34
176 tbl[151]=37
177 tbl[152]=35
178 tbl[153]=16
179 tbl[154]=K_MAGIC_3891
180 tbl[155]=85
181 tbl[156]=1
182 tbl[157]=-2
183 tbl[158]=-1
184 tbl[159]=0
185 tbl[160]=-31
186 tbl[161]=-1
187 tbl[162]=54
188 tbl[163]=-13
189 tbl[164]=K_MAGIC_4051
190 tbl[165]=2
191 tbl[166]=48
192 tbl[167]=10
193 tbl[168]=-24
194 tbl[169]=0
195 tbl[170]=39
196 tbl[171]=77
197 tbl[172]=-32
198 tbl[173]=13
199 tbl[174]=K_MAGIC_3868
200 tbl[175]=82
201 tbl[176]=45
202 tbl[177]=-34
203 tbl[178]=38
204 tbl[179]=0
205 tbl[180]=126
206 tbl[181]=126
207 tbl[182]=126
208 tbl[183]=126
209 tbl[184]=K_MAGIC_3088
210 tbl[185]=126
211 tbl[186]=126
212 tbl[187]=126
213 tbl[188]=126
214 tbl[189]=0
215 tbl[190]=-24
216 tbl[191]=15
217 tbl[192]=97
218 tbl[193]=-24
219 tbl[194]=K_MAGIC_3658
220 tbl[195]=168
221 tbl[196]=60
222 tbl[197]=54
223 tbl[198]=92
224 tbl[199]=0
225 tbl[200]=34
226 tbl[201]=53
227 tbl[202]=60
228 tbl[203]=25
229 tbl[204]=K_MAGIC_3879
230 tbl[205]=39
231 tbl[206]=19
232 tbl[207]=-19
233 tbl[208]=6
234 tbl[209]=0
235 tbl[210]=0
236 tbl[211]=0
237 tbl[212]=0
238 tbl[213]=0
239 tbl[214]=K_MAGIC_4096
240 tbl[215]=0
241 tbl[216]=0
242 tbl[217]=0
243 tbl[218]=0
244 tbl[219]=0
245 tbl[220]=33
246 tbl[221]=86
247 tbl[222]=98
248 tbl[223]=51
249 tbl[224]=K_MAGIC_3609
250 tbl[225]=120
251 tbl[226]=33
252 tbl[227]=33
253 tbl[228]=33
254 tbl[229]=0
255 tbl[230]=-4
256 tbl[231]=-118
257 tbl[232]=-13
258 tbl[233]=14
259 tbl[234]=K_MAGIC_4141
260 tbl[235]=6
261 tbl[236]=61
262 tbl[237]=13
263 tbl[238]=-4
264 tbl[239]=0
265 tbl[240]=25
266 tbl[241]=30
267 tbl[242]=31
268 tbl[243]=-72
269 tbl[244]=K_MAGIC_4075
270 tbl[245]=14
271 tbl[246]=-2
272 tbl[247]=-2
273 tbl[248]=-3
274 tbl[249]=0
275 tbl[250]=-82
276 tbl[251]=-13
277 tbl[252]=58
278 tbl[253]=-25
279 tbl[254]=K_MAGIC_4154
280 tbl[255]=2
281 tbl[256]=43
282 tbl[257]=10
283 tbl[258]=-51
284 tbl[259]=0
285 tbl[260]=4
286 tbl[261]=96
287 tbl[262]=-79
288 tbl[263]=18
289 tbl[264]=K_MAGIC_3869
290 tbl[265]=121
291 tbl[266]=95
292 tbl[267]=-40
293 tbl[268]=12
294 tbl[269]=0
295 return 0
296}