Существует три разных случая, когда исследовательский уровень статьи должен оцениваться перед любой публикацией:
Если сравнивать этот процесс с правосудием, то рефери подобен юристу, а редактор — судье.
Вопрос : Как автор, рецензент и редактор могут (соответственно) оценить исследовательский уровень статьи?
Здесь мы спрашиваем о чисто исследовательском уровне статьи, поэтому мы предполагаем, что статья оригинальна, правильна и хорошо написана. Мы также предполагаем, что статья не слишком специализирована, если это журнал для широкой аудитории, и соответствует теме, если это специализированный журнал (то же самое для любой другой специфики). Наконец, если конкретно, меня в основном интересуют математические статьи.
Утилитарный подход может состоять в том, чтобы оценить , сколько статей должно цитировать эту статью в следующие пять лет (за исключением самоцитирования). Затем автор может выбрать журнал с этим номером в качестве оценки влияния статьи (после перенормировки), а рецензент может проверить, соответствует ли он выбранному журналу. Но тогда нужно было бы знать, как сделать такую оценку...
Конечно, автор/рецензент/редактор может субъективно оценивать статью, но субъективность зависит от эмоций, ею можно манипулировать, и процесс может стать политическим. Интересно, есть ли объективный способ действовать, или, по крайней мере, можем ли мы добавить немного рациональности в этот процесс. Рассмотрим процесс правосудия, он, несомненно, содержит часть субъективности, но также и рациональность, называемую законом.
Хотя я думаю, что ваша метафора «справедливости» неверна, ответ во всех случаях — опыт . Вам нужен опыт работы в качестве рецензента. Вы должны знать, что уже сделано и что важно еще сделать. Как редактору вам нужен либо этот полевой опыт, либо опыт работы с вашими рецензентами — кто заслуживает доверия, а кто нет. Как автор в начале карьеры у вас нет никакого опыта, кроме некоторого в этой области, но он будет расти.
Для всех присутствующих здесь способ получения опыта заключается в том, чтобы приложить все усилия к любой работе, которую вы выполняете, и оценить реакцию. Как говорят инженеры и информатики: «Хороший дизайн приходит из опыта. Опыт приходит из плохого дизайна».
Если вы ищете алгоритм, то я бы сказал, что его не существует. Теоретически может быть возможно построить ИИ с учетом десятков тысяч взаимодействий, но это может показать предвзятость, как было показано во многих подобных вещах.
Но система в целом зависит только от (почти) того, что каждый пытается сделать все возможное с тем, что у него есть перед глазами в мире несовершенной информации.
В теории теория такая же, как и практика. Но не на практике. - Фнорд Бьёрнбергер
Я думаю, что у вас есть неправильное представление о точке экспертной оценки. Процесс рецензирования не предназначен для прогнозирования того, сколько цитирований может получить статья. Тем не менее, в прошлом я сталкивался с тем, что некоторые журналы спрашивают рецензентов после завершения рецензирования, следует ли выделить статью в текущем выпуске журнала или на веб-сайте журнала.
Как рецензент, я могу принять личное решение о том, следует ли выделять статью, но какой бы широкой, междисциплинарной и разнообразной ни стала наука, я часто голосую за то, чтобы не выделять статью, потому что это было бы субъективным суждением. Я также оставляю решение, если сценарий часто соответствует объему журнала редактору (и заботится только о качестве опубликованного исследования), это буквально не мое дело как бесплатного рецензента и основано на моем мнении, чтобы выбрать статью для самостоятельного чтения по факторам, которые не слишком сильно влияют на меня, например, импакт-фактор журнала и т. д.
Из истории науки просто следует, что мы часто не можем предсказать влияние фундаментальных исследований. Я также думаю, что нет необходимости делать то, что вы просите или предлагаете для представленных сценариев перед публикацией, потому что временное освещение важных исследований делается на конференциях, а затем коллегами и читателями в сообществе через обзорные статьи или даже блоги, где у вас гораздо больше, более опытных и объективных "судей", чем до публикации.
Джон Кастер
Андреас Бласс