Skip to content

[WIP] Dev #54

New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom
Merged
merged 23 commits into from
Apr 10, 2020
Merged

[WIP] Dev #54

merged 23 commits into from
Apr 10, 2020

Conversation

bonlime
Copy link
Owner

@bonlime bonlime commented Mar 18, 2020

No description provided.

@bonlime
Copy link
Owner Author

bonlime commented Mar 18, 2020 •
edited
Loading

медленно иду к добавлению в репу object detection моделек.
решил начать с Retinanet. В качестве референса использую TF реализацию.
Параллельно добавил conv3x3 в FPN блок, что должно помочь сгладить результаты.
Как я понял в object detection задачах нужна куча разной обвязки, чтобы обрабатывать сырые предсказания модели. пока я этого не делаю и выдаю сырые тензоры размером [N, num_anchor * 4, H, W] и [N, num_anchor * num_classes, H, W] каждой из feature map. Как из этого лосс посчитать - вопрос открытый

@bonlime
Copy link
Owner Author

bonlime commented Mar 18, 2020

Вдруг осознал почему очень много где видел какой-то FrozenBatchNorm. object detection почти всегда тренят с imagenet весов, но размер батча обычно сильно меньше и чтобы не портить хорошие статитстики слои с BN заменяют на необучаемое афинное преобразование. например как тут. Думаю добавить что-то вроде frozen_abn, чтобы можно было передавать в конструктор класса и замораживать/размораживать BN

bonlime added 18 commits March 18, 2020 17:41
@bonlime
add frozen BN
d96a120
@bonlime
add clone & add permutation to cutmix/mixup
c2c136f
@bonlime
add runner tests for segmentation tasks
8be9a63
@bonlime
increase version
e27ead1
@bonlime
add saving based on metric to CheckpointSaver
3ab4e96
@bonlime
use epoch + 1 for printing
47a49fa
@bonlime
fix number of features in bifpn
218d568
@bonlime
add option to measure speed using amp in benchmark
9832f03
@bonlime
huge rework of focal loss. add support for different reductions to CCE (
1ffca2c 
#55)

* huge rework of focal loss. add support for different reductions to CCE

* remove commented. ignore_index => ignore_label
@bonlime
add eval to memory_test for inference
916d86e
@bonlime
fix bug which increased memory consumption by 25%
4bf707c
@bonlime
Add tresnet (#56)
127753b 
* add `eval` to memory_test for inference

* fix bug which increased memory consumption by 25%

* add TResNet model + weights + tests
@bonlime
Merge branch 'dev' of https://github.com/bonlime/pytorch-tools into dev
9f142f1
@bonlime
remove commented parts
5a6b874
@bonlime
add noisy stident weights for EffNet
ced8b0c
@bonlime
fix error for optimizer=None in wrapper
0d923f0
@bonlime
add stochastic depth to resnet
d8d7b4b
@bonlime
add support for pretrained + custom in channels. add tresnet encoders
1e86b17
@bonlime bonlime merged commit 218b5ac into master Apr 10, 2020
@bonlime bonlime deleted the dev branch April 10, 2020 08:20
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Reviewers
No reviews
Assignees
No one assigned
Labels
None yet
Projects
None yet
Milestone
No milestone
Development

Successfully merging this pull request may close these issues.
1 participant
@bonlime