Moved code to lightning

Updating codebase to make use of pytorch-lightning

• Main train/valid loops are handled by lightning
• Removed device-handling code
• Each model implements its own train/valid/predict steps
• Updated config files for use with lightning
• Using lightning checkpointing and logging callbacks
• Updated DeviceMonitor to be compatible with lightning

tests/test_mc_ch_in_11k_RS.py

@@ -119,22 +119,24 @@ def test_dataset_consistency():
     assert "train" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["train"]) == len(
         mc_RS_dataset["train"]
-    ) + len(ch_RS_dataset["train"]) + len(
-        in_RS_dataset["train"] + len(tbx11k_RS_dataset["train"])
+    ) + len(ch_RS_dataset["train"]) + len(in_RS_dataset["train"]) + len(
+        tbx11k_RS_dataset["train"]
     )
 
     assert "validation" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["validation"]) == len(
         mc_RS_dataset["validation"]
     ) + len(ch_RS_dataset["validation"]) + len(
-        in_RS_dataset["validation"] + len(tbx11k_RS_dataset["validation"])
+        in_RS_dataset["validation"]
+    ) + len(
+        tbx11k_RS_dataset["validation"]
     )
 
     assert "test" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["test"]) == len(
         mc_RS_dataset["test"]
-    ) + len(ch_RS_dataset["test"]) + len(
-        in_RS_dataset["test"] + len(tbx11k_RS_dataset["test"])
+    ) + len(ch_RS_dataset["test"]) + len(in_RS_dataset["test"]) + len(
+        tbx11k_RS_dataset["test"]
     )
 
     # Fold 0
@@ -149,22 +151,22 @@ def test_dataset_consistency():
     assert "train" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["train"]) == len(
         mc_dataset["train"]
-    ) + len(ch_dataset["train"]) + len(
-        in_dataset["train"] + len(tbx11k_dataset["train"])
+    ) + len(ch_dataset["train"]) + len(in_dataset["train"]) + len(
+        tbx11k_dataset["train"]
     )
 
     assert "validation" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["validation"]) == len(
         mc_dataset["validation"]
-    ) + len(ch_dataset["validation"]) + len(
-        in_dataset["validation"] + len(tbx11k_dataset["validation"])
+    ) + len(ch_dataset["validation"]) + len(in_dataset["validation"]) + len(
+        tbx11k_dataset["validation"]
     )
 
     assert "test" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["test"]) == len(
         mc_dataset["test"]
-    ) + len(ch_dataset["test"]) + len(
-        in_dataset["test"] + len(tbx11k_dataset["test"])
+    ) + len(ch_dataset["test"]) + len(in_dataset["test"]) + len(
+        tbx11k_dataset["test"]
     )
 
     # Fold 1
@@ -179,22 +181,22 @@ def test_dataset_consistency():
     assert "train" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["train"]) == len(
         mc_dataset["train"]
-    ) + len(ch_dataset["train"]) + len(
-        in_dataset["train"] + len(tbx11k_dataset["train"])
+    ) + len(ch_dataset["train"]) + len(in_dataset["train"]) + len(
+        tbx11k_dataset["train"]
     )
 
     assert "validation" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["validation"]) == len(
         mc_dataset["validation"]
-    ) + len(ch_dataset["validation"]) + len(
-        in_dataset["validation"] + len(tbx11k_dataset["validation"])
+    ) + len(ch_dataset["validation"]) + len(in_dataset["validation"]) + len(
+        tbx11k_dataset["validation"]
     )
 
     assert "test" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["test"]) == len(
         mc_dataset["test"]
-    ) + len(ch_dataset["test"]) + len(
-        in_dataset["test"] + len(tbx11k_dataset["test"])
+    ) + len(ch_dataset["test"]) + len(in_dataset["test"]) + len(
+        tbx11k_dataset["test"]
     )
 
     # Fold 2
@@ -209,22 +211,22 @@ def test_dataset_consistency():
     assert "train" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["train"]) == len(
         mc_dataset["train"]
-    ) + len(ch_dataset["train"]) + len(
-        in_dataset["train"] + len(tbx11k_dataset["train"])
+    ) + len(ch_dataset["train"]) + len(in_dataset["train"]) + len(
+        tbx11k_dataset["train"]
     )
 
     assert "validation" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["validation"]) == len(
         mc_dataset["validation"]
-    ) + len(ch_dataset["validation"]) + len(
-        in_dataset["validation"] + len(tbx11k_dataset["validation"])
+    ) + len(ch_dataset["validation"]) + len(in_dataset["validation"]) + len(
+        tbx11k_dataset["validation"]
     )
 
     assert "test" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["test"]) == len(
         mc_dataset["test"]
-    ) + len(ch_dataset["test"]) + len(
-        in_dataset["test"] + len(tbx11k_dataset["test"])
+    ) + len(ch_dataset["test"]) + len(in_dataset["test"]) + len(
+        tbx11k_dataset["test"]
     )
 
     # Fold 3
@@ -239,22 +241,22 @@ def test_dataset_consistency():
     assert "train" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["train"]) == len(
         mc_dataset["train"]
-    ) + len(ch_dataset["train"]) + len(
-        in_dataset["train"] + len(tbx11k_dataset["train"])
+    ) + len(ch_dataset["train"]) + len(in_dataset["train"]) + len(
+        tbx11k_dataset["train"]
     )
 
     assert "validation" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["validation"]) == len(
         mc_dataset["validation"]
-    ) + len(ch_dataset["validation"]) + len(
-        in_dataset["validation"] + len(tbx11k_dataset["validation"])
+    ) + len(ch_dataset["validation"]) + len(in_dataset["validation"]) + len(
+        tbx11k_dataset["validation"]
     )
 
     assert "test" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["test"]) == len(
         mc_dataset["test"]
-    ) + len(ch_dataset["test"]) + len(
-        in_dataset["test"] + len(tbx11k_dataset["test"])
+    ) + len(ch_dataset["test"]) + len(in_dataset["test"]) + len(
+        tbx11k_dataset["test"]
     )
 
     # Fold 4
@@ -269,22 +271,22 @@ def test_dataset_consistency():
     assert "train" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["train"]) == len(
         mc_dataset["train"]
-    ) + len(ch_dataset["train"]) + len(
-        in_dataset["train"] + len(tbx11k_dataset["train"])
+    ) + len(ch_dataset["train"]) + len(in_dataset["train"]) + len(
+        tbx11k_dataset["train"]
     )
 
     assert "validation" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["validation"]) == len(
         mc_dataset["validation"]
-    ) + len(ch_dataset["validation"]) + len(
-        in_dataset["validation"] + len(tbx11k_dataset["validation"])
+    ) + len(ch_dataset["validation"]) + len(in_dataset["validation"]) + len(
+        tbx11k_dataset["validation"]
     )
 
     assert "test" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["test"]) == len(
         mc_dataset["test"]
-    ) + len(ch_dataset["test"]) + len(
-        in_dataset["test"] + len(tbx11k_dataset["test"])
+    ) + len(ch_dataset["test"]) + len(in_dataset["test"]) + len(
+        tbx11k_dataset["test"]
     )
 
     # Fold 5
@@ -299,22 +301,22 @@ def test_dataset_consistency():
     assert "train" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["train"]) == len(
         mc_dataset["train"]
-    ) + len(ch_dataset["train"]) + len(
-        in_dataset["train"] + len(tbx11k_dataset["train"])
+    ) + len(ch_dataset["train"]) + len(in_dataset["train"]) + len(
+        tbx11k_dataset["train"]
     )
 
     assert "validation" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["validation"]) == len(
         mc_dataset["validation"]
-    ) + len(ch_dataset["validation"]) + len(
-        in_dataset["validation"] + len(tbx11k_dataset["validation"])
+    ) + len(ch_dataset["validation"]) + len(in_dataset["validation"]) + len(
+        tbx11k_dataset["validation"]
     )
 
     assert "test" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["test"]) == len(
         mc_dataset["test"]
-    ) + len(ch_dataset["test"]) + len(
-        in_dataset["test"] + len(tbx11k_dataset["test"])
+    ) + len(ch_dataset["test"]) + len(in_dataset["test"]) + len(
+        tbx11k_dataset["test"]
     )
 
     # Fold 6
@@ -329,22 +331,22 @@ def test_dataset_consistency():
     assert "train" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["train"]) == len(
         mc_dataset["train"]
-    ) + len(ch_dataset["train"]) + len(
-        in_dataset["train"] + len(tbx11k_dataset["train"])
+    ) + len(ch_dataset["train"]) + len(in_dataset["train"]) + len(
+        tbx11k_dataset["train"]
     )
 
     assert "validation" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["validation"]) == len(
         mc_dataset["validation"]
-    ) + len(ch_dataset["validation"]) + len(
-        in_dataset["validation"] + len(tbx11k_dataset["validation"])
+    ) + len(ch_dataset["validation"]) + len(in_dataset["validation"]) + len(
+        tbx11k_dataset["validation"]
     )
 
     assert "test" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["test"]) == len(
         mc_dataset["test"]
-    ) + len(ch_dataset["test"]) + len(
-        in_dataset["test"] + len(tbx11k_dataset["test"])
+    ) + len(ch_dataset["test"]) + len(in_dataset["test"]) + len(
+        tbx11k_dataset["test"]
     )
 
     # Fold 7
@@ -359,22 +361,22 @@ def test_dataset_consistency():
     assert "train" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["train"]) == len(
         mc_dataset["train"]
-    ) + len(ch_dataset["train"]) + len(
-        in_dataset["train"] + len(tbx11k_dataset["train"])
+    ) + len(ch_dataset["train"]) + len(in_dataset["train"]) + len(
+        tbx11k_dataset["train"]
     )
 
     assert "validation" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["validation"]) == len(
         mc_dataset["validation"]
-    ) + len(ch_dataset["validation"]) + len(
-        in_dataset["validation"] + len(tbx11k_dataset["validation"])
+    ) + len(ch_dataset["validation"]) + len(in_dataset["validation"]) + len(
+        tbx11k_dataset["validation"]
     )
 
     assert "test" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["test"]) == len(
         mc_dataset["test"]
-    ) + len(ch_dataset["test"]) + len(
-        in_dataset["test"] + len(tbx11k_dataset["test"])
+    ) + len(ch_dataset["test"]) + len(in_dataset["test"]) + len(
+        tbx11k_dataset["test"]
     )
 
     # Fold 8
@@ -389,22 +391,22 @@ def test_dataset_consistency():
     assert "train" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["train"]) == len(
         mc_dataset["train"]
-    ) + len(ch_dataset["train"]) + len(
-        in_dataset["train"] + len(tbx11k_dataset["train"])
+    ) + len(ch_dataset["train"]) + len(in_dataset["train"]) + len(
+        tbx11k_dataset["train"]
     )
 
     assert "validation" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["validation"]) == len(
         mc_dataset["validation"]
-    ) + len(ch_dataset["validation"]) + len(
-        in_dataset["validation"] + len(tbx11k_dataset["validation"])
+    ) + len(ch_dataset["validation"]) + len(in_dataset["validation"]) + len(
+        tbx11k_dataset["validation"]
     )
 
     assert "test" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["test"]) == len(
         mc_dataset["test"]
-    ) + len(ch_dataset["test"]) + len(
-        in_dataset["test"] + len(tbx11k_dataset["test"])
+    ) + len(ch_dataset["test"]) + len(in_dataset["test"]) + len(
+        tbx11k_dataset["test"]
     )
 
     # Fold 9
@@ -419,20 +421,20 @@ def test_dataset_consistency():
     assert "train" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["train"]) == len(
         mc_dataset["train"]
-    ) + len(ch_dataset["train"]) + len(
-        in_dataset["train"] + len(tbx11k_dataset["train"])
+    ) + len(ch_dataset["train"]) + len(in_dataset["train"]) + len(
+        tbx11k_dataset["train"]
     )
 
     assert "validation" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["validation"]) == len(
         mc_dataset["validation"]
-    ) + len(ch_dataset["validation"]) + len(
-        in_dataset["validation"] + len(tbx11k_dataset["validation"])
+    ) + len(ch_dataset["validation"]) + len(in_dataset["validation"]) + len(
+        tbx11k_dataset["validation"]
     )
 
     assert "test" in mc_ch_in_11k_RS_dataset
     assert len(mc_ch_in_11k_RS_dataset["test"]) == len(
         mc_dataset["test"]
-    ) + len(ch_dataset["test"]) + len(
-        in_dataset["test"] + len(tbx11k_dataset["test"])
+    ) + len(ch_dataset["test"]) + len(in_dataset["test"]) + len(
+        tbx11k_dataset["test"]
     )