gautomdas · Vincent-La · Sep 11, 2024 · Sep 12, 2024 · Sep 12, 2024 · Sep 12, 2024
diff --git a/.DS_Store b/.DS_Store
diff --git a/.gitignore b/.gitignore
@@ -1,5 +1,4 @@
-data/coco/
-data/flickr30k/
+data/
 trash/
 .virtual_documents/
 dataset/__pycache__/
@@ -8,3 +7,11 @@ gptq_results_first_run/
 slurm_files/1_quantization_run/
 slurm_files/2_quantization_run_smaller_bits/
 
+**/*.pyc
+**/__pycache__
+
+awq/**/
+.vscode/
+
+llava_runs/**/
+
diff --git a/__pycache__/blip_quantizer.cpython-310.pyc b/__pycache__/blip_quantizer.cpython-310.pyc
diff --git a/__pycache__/blip_quantizer.cpython-312.pyc b/__pycache__/blip_quantizer.cpython-312.pyc
diff --git a/__pycache__/inference_pipeline.cpython-310.pyc b/__pycache__/inference_pipeline.cpython-310.pyc
diff --git a/__pycache__/inference_pipeline.cpython-312.pyc b/__pycache__/inference_pipeline.cpython-312.pyc
diff --git a/__pycache__/quant_functions.cpython-310.pyc b/__pycache__/quant_functions.cpython-310.pyc
diff --git a/__pycache__/quant_functions.cpython-312.pyc b/__pycache__/quant_functions.cpython-312.pyc
diff --git a/__pycache__/utils.cpython-310.pyc b/__pycache__/utils.cpython-310.pyc
diff --git a/__pycache__/utils.cpython-312.pyc b/__pycache__/utils.cpython-312.pyc
diff --git a/awq/__init__.py b/awq/__init__.py
diff --git a/awq/__pycache__/__init__.cpython-310.pyc b/awq/__pycache__/__init__.cpython-310.pyc
diff --git a/awq/__pycache__/__init__.cpython-312.pyc b/awq/__pycache__/__init__.cpython-312.pyc
diff --git a/awq/__pycache__/awq_quantizer.cpython-312.pyc b/awq/__pycache__/awq_quantizer.cpython-312.pyc
diff --git a/awq/__pycache__/quantizer.cpython-310.pyc b/awq/__pycache__/quantizer.cpython-310.pyc
diff --git a/awq/__pycache__/scaled_modules.cpython-310.pyc b/awq/__pycache__/scaled_modules.cpython-310.pyc
diff --git a/awq/__pycache__/scaled_modules.cpython-312.pyc b/awq/__pycache__/scaled_modules.cpython-312.pyc
diff --git a/awq/__pycache__/utils.cpython-310.pyc b/awq/__pycache__/utils.cpython-310.pyc
diff --git a/awq/__pycache__/utils.cpython-312.pyc b/awq/__pycache__/utils.cpython-312.pyc
diff --git a/awq/awq_captioning.html b/awq/awq_captioning.html
diff --git a/awq/awq_image_captioning.csv b/awq/awq_image_captioning.csv
diff --git a/awq/awq_image_text_retrieval.csv b/awq/awq_image_text_retrieval.csv
@@ -0,0 +1,50 @@
+vit_bits,qformer_bits,txt_r1,txt_r5,txt_r10,txt_r_mean,img_r1,img_r5,img_r10,img_r_mean,r_mean,agg_metrics,model_size
+2,2,67.5,83.0,88.1,79.53333333333333,61.32,81.88,86.72,76.64,78.08666666666667,79.53333333333333,3103760704
+2,3,83.8,95.7,97.6,92.36666666666667,70.5,89.62,93.62,84.58,88.47333333333333,92.36666666666667,3265519936
+2,4,84.5,95.4,97.4,92.43333333333334,71.22,89.9,93.62,84.91333333333334,88.67333333333335,92.43333333333334,3427279168
+2,5,83.9,95.6,97.5,92.33333333333333,71.42,89.74,93.86,85.00666666666666,88.66999999999999,92.33333333333333,3589038400
+2,6,83.7,95.3,97.4,92.13333333333333,71.1,89.82,93.7,84.87333333333333,88.50333333333333,92.13333333333333,3750797632
+2,8,84.0,95.1,97.3,92.13333333333333,71.2,89.94,93.66,84.93333333333332,88.53333333333333,92.13333333333333,4074316096
+2,16,84.1,95.1,97.4,92.2,71.24,89.98,93.68,84.96666666666667,88.58333333333334,92.2,5368389952
+3,2,87.8,94.2,95.5,92.5,82.1,94.94,96.64,91.22666666666667,91.86333333333334,92.5,4088297920
+3,3,97.2,100.0,100.0,99.06666666666666,88.54,98.18,99.02,95.24666666666667,97.15666666666667,99.06666666666666,4250057152
+3,4,97.5,100.0,100.0,99.16666666666667,88.52,97.88,99.06,95.15333333333332,97.16,99.16666666666667,4411816384
+3,5,97.1,100.0,100.0,99.03333333333335,88.76,97.8,98.98,95.18,97.10666666666668,99.03333333333335,4573575616
+3,6,97.3,100.0,100.0,99.10000000000001,88.82,97.88,98.92,95.20666666666666,97.15333333333334,99.10000000000001,4735334848
+3,8,97.4,100.0,100.0,99.13333333333333,88.62,97.84,98.9,95.12,97.12666666666667,99.13333333333333,5058853312
+3,16,97.4,100.0,100.0,99.13333333333333,88.68,97.86,98.92,95.15333333333335,97.14333333333335,99.13333333333333,6352927168
+4,2,87.4,94.7,95.5,92.53333333333335,83.32,95.46,96.88,91.88666666666666,92.21000000000001,92.53333333333335,5072835136
+4,3,97.6,100.0,100.0,99.2,89.3,98.28,99.06,95.54666666666667,97.37333333333333,99.2,5234594368
+4,4,97.6,100.0,100.0,99.2,89.68,98.22,99.08,95.66000000000001,97.43,99.2,5396353600
+4,5,97.3,100.0,100.0,99.10000000000001,89.5,98.22,98.98,95.56666666666666,97.33333333333334,99.10000000000001,5558112832
+4,6,97.4,100.0,100.0,99.13333333333333,89.6,98.26,99.04,95.63333333333334,97.38333333333333,99.13333333333333,5719872064
+4,8,97.4,100.0,100.0,99.13333333333333,89.64,98.2,99.04,95.62666666666667,97.38,99.13333333333333,6043390528
+4,16,97.4,100.0,100.0,99.13333333333333,89.66,98.2,99.02,95.62666666666667,97.38,99.13333333333333,7337464384
+5,2,88.1,94.6,95.3,92.66666666666667,83.18,95.54,96.88,91.86666666666667,92.26666666666668,92.66666666666667,6057372352
+5,3,98.2,100.0,100.0,99.39999999999999,89.44,98.22,99.06,95.57333333333334,97.48666666666666,99.39999999999999,6219131584
+5,4,97.9,100.0,100.0,99.3,89.58,98.18,99.12,95.62666666666667,97.46333333333334,99.3,6380890816
+5,5,97.6,100.0,100.0,99.2,89.44,98.18,99.08,95.56666666666666,97.38333333333333,99.2,6542650048
+5,6,97.9,100.0,100.0,99.3,89.46,98.2,99.04,95.56666666666666,97.43333333333334,99.3,6704409280
+5,8,98.0,100.0,100.0,99.33333333333333,89.4,98.18,99.08,95.55333333333334,97.44333333333333,99.33333333333333,7027927744
+5,16,97.8,100.0,100.0,99.26666666666667,89.36,98.18,99.08,95.54,97.40333333333334,99.26666666666667,8322001600
+6,2,87.8,94.9,95.4,92.7,83.22,95.76,97.04,92.00666666666667,92.35333333333334,92.7,7041909568
+6,3,98.2,100.0,100.0,99.39999999999999,89.46,98.3,99.1,95.62,97.50999999999999,99.39999999999999,7203668800
+6,4,97.9,100.0,100.0,99.3,89.68,98.26,99.06,95.66666666666667,97.48333333333333,99.3,7365428032
+6,5,97.8,100.0,100.0,99.26666666666667,89.58,98.14,99.06,95.59333333333332,97.42999999999999,99.26666666666667,7527187264
+6,6,97.9,100.0,100.0,99.3,89.54,98.2,99.04,95.59333333333335,97.44666666666667,99.3,7688946496
+6,8,97.9,100.0,100.0,99.3,89.42,98.2,99.06,95.56,97.43,99.3,8012464960
+6,16,97.9,100.0,100.0,99.3,89.4,98.2,99.06,95.55333333333334,97.42666666666668,99.3,9306538816
+8,2,87.8,94.9,95.5,92.73333333333333,83.7,95.62,97.06,92.12666666666667,92.43,92.73333333333333,9010984000
+8,3,98.2,100.0,100.0,99.39999999999999,89.5,98.3,99.1,95.63333333333333,97.51666666666665,99.39999999999999,9172743232
+8,4,97.9,100.0,100.0,99.3,89.66,98.2,99.1,95.65333333333335,97.47666666666667,99.3,9334502464
+8,5,97.9,100.0,100.0,99.3,89.68,98.2,99.08,95.65333333333332,97.47666666666666,99.3,9496261696
+8,6,97.9,100.0,100.0,99.3,89.48,98.16,99.04,95.56,97.43,99.3,9658020928
+8,8,97.9,100.0,100.0,99.3,89.44,98.2,99.04,95.56,97.43,99.3,9981539392
+8,16,97.9,100.0,100.0,99.3,89.44,98.2,99.04,95.56,97.43,99.3,11275613248
+16,2,88.0,94.8,95.4,92.73333333333335,83.28,95.78,97.08,92.04666666666667,92.39000000000001,92.73333333333335,16887281728
+16,3,98.2,100.0,100.0,99.39999999999999,89.5,98.28,99.08,95.62,97.50999999999999,99.39999999999999,17049040960
+16,4,97.9,100.0,100.0,99.3,89.64,98.22,99.1,95.65333333333335,97.47666666666667,99.3,17210800192
+16,5,97.8,100.0,100.0,99.26666666666667,89.66,98.18,99.06,95.63333333333333,97.44999999999999,99.26666666666667,17372559424
+16,6,97.9,100.0,100.0,99.3,89.5,98.16,99.04,95.56666666666666,97.43333333333334,99.3,17534318656
+16,8,97.9,100.0,100.0,99.3,89.46,98.2,99.04,95.56666666666666,97.43333333333334,99.3,17857837120
+16,16,97.9,100.0,100.0,99.3,89.46,98.22,99.04,95.57333333333334,97.43666666666667,99.3,19151910976
diff --git a/awq/awq_retrieval.html b/awq/awq_retrieval.html