Как включить эксперименты по сравнению с современными статьями без кода

Я работаю над документом, который предлагает алгоритмическое улучшение, которое измеряется как качеством результатов, так и временем, которое потребовалось для их достижения.

Есть 3 недавние (относительно) статьи, посвященные одной и той же проблеме. Одну из них я развиваю, и мое усовершенствование (которое может быть использовано и в других областях) предназначено для нее. Улучшение значительное, и у меня есть все необходимые инструменты, чтобы воспроизвести его точные результаты и доказать это.

Однако в двух других документах, которые оба (утверждают), что они лучше первого, отсутствует необходимый код для воспроизведения результатов. Я пытался связаться с авторами более чем одним способом, но без ответа.

Кроме того, согласно статье № 3 (которая является самой последней), бумага № 1 на самом деле работает лучше, чем бумага № 2, что противоречит статье № 2.

У меня есть реализация документа № 2 (не моя собственная и не оригинальная), которая показывает очень плохие результаты.

Я не уверен, как я могу двигаться дальше — выполнение моих собственных реализаций для № 2 и № 3 требует очень много времени, и у меня легко может быть ошибка или две. И рецензент может заявить, что он был предвзят по отношению к ним.

И, очевидно, если я не буду сравнивать их, я не могу претендовать на звание самого современного решения проблемы (даже если улучшение, которое я показываю по сравнению с #paper 1, больше, чем они).

Любой совет был бы замечательным!

Ответы (1)

В этой ситуации мы всегда просто говорим: «Мы попытались сравнить наш результат с XYX и другими, но не смогли получить доступ к работающей реализации».

Если бы рецензент пожаловался, мы могли бы сказать (рецензенту, а не в статье) «каким образом № 3 продвигает поле вперед, если его никто не может использовать».

+1 Ваши результаты должны стоять сами по себе, а не только по отношению к другим.
Я бы даже добавил, что, если нет возможности реализовать их код (либо путем репликации, либо связавшись с ними), я задаюсь вопросом, какое внимание вы уделяете их работе, кроме упоминания о том, что другие попытки были предприняты, но не могут быть воспроизведены . (Да, может быть, будет немного глупо говорить, что вы не можете воспроизвести их работу, но это цена неоткрытой науки.) тусклый взгляд на научные публикации, которые утаивают данные/алгоритмы.]