Предусмотрены ли меры по обеспечению «академической честности»?

В последнее время я читал некоторые размышления об исследованиях и научных кругах, и это заставило меня более критически относиться к тому, что мы делаем, и к тому, что жизнь, которой мы живем, приготовила для нас.

Некоторые из вас, возможно, помнят еще один мой недавний вопрос , где я спрашивал о правильном способе создания проектов на основе открытого письма, которое я прочитал о том, что академические круги не являются тем, за что себя выдают. Теперь я наткнулся на эту запись в блоге , в которой основное внимание уделяется недостаткам процесса одиночного слепого рецензирования, широко используемого в публикациях биомедицинских исследований.

Теперь все это возвращает меня к тревожной идее, которая пришла мне в голову некоторое время назад; что качество исследований и правда обо всем, что мы делаем, по существу зависит от довольно хрупкой добродетели, которую можно было бы назвать «академической честностью». Мы рассчитываем на объективность рецензентов и редакторов, мы рассчитываем на наивность и добрые намерения издателей и исследователей в своей работе, мы рассчитываем на то, что люди не ставят свои личные интересы выше интересов общества.

Как скажет вам любой на улице, мы живем не в идеальном мире, и [ назовите меня пессимистом, если хотите ] поэтому я не верю в неотъемлемое благо людей (по крайней мере, я не полагаюсь и не считаю в теме). Я не понимаю, как ученые должны быть освобождены от вырождения в обществе, которое затрагивает всех остальных.

Это подводит меня к моему вопросу; какие меры существуют для обеспечения этой «академической честности», на которую мы, кажется, так сильно полагаемся? Откуда мы знаем/обеспечиваем:

  • чтобы рецензенты не теряли своей объективности, например, при просмотре рукописи конкурента

  • что нет никакого сговора между высокопоставленными частными лицами и редакторами «важных» журналов?

  • что ученые (на разных этапах своей карьеры) не рассматривают / не отдают приоритет «подталкиванию» чисел (например, «h-индексу» или «импакт-фактору» и т. д.), когда они отправляются со своими исследовательскими проектами?

  • что гранты/призы/звания на самом деле присуждаются лучшим проектам/людям с точки зрения всеобщего блага, а не на основании того, насколько хорошо у претендентов есть связи? (в конце концов, такие комитеты должны иметь или состоять из других исследователей, кто еще сможет судить о влиянии и важности передовых исследований, как не другие исследователи?)

Я понимаю, что это широкий вопрос, но я попытался подробно рассказать предысторию, чтобы дать вам представление о том, как я пришел к этой идее. Точно так же я попытался сузить свою озабоченность до одного всеобъемлющего вопроса (вместо того, чтобы искать обсуждение) с несколькими примерами дополнительных вопросов, чтобы прояснить мою точку зрения. Я могу попросить их отдельно, если это необходимо, но я думаю, что они лучше сидят вместе, как есть.

" что гранты/призы/звания на самом деле даются лучшим проектам/людям с точки зрения всеобщего блага " не забывайте про рабочие места и должности.
@VahidShirbisheh, конечно, я полагал, что это будет неявно подразумеваться, но да, это определенно применимо к позициям.

Ответы (2)

Позвольте мне добавить несколько моментов в дополнение к отличному ответу @Peter Janssons:

Есть «инструменты», которые помогут с некоторыми из ваших проблем

чтобы рецензенты не теряли своей объективности, например, при просмотре рукописи конкурента

  • Во-первых, большинство журналов, которые я знаю, не только запрашивают рекомендуемых рецензентов, но вы также можете попросить, чтобы конкретных людей не просили рецензировать вашу статью.

  • В журналах, которые я знаю, есть как минимум 2, обычно 3 обзора. Таким образом, твердое «отклонение» означает, что несколько рецензентов согласились с тем, что статья плохая. Хотя у кого-то может быть предвзятое мнение, с 3 отклонениями, возможно, пора остановиться и подумать, действительно ли бумага хороша или нет.

  • Предвзятость в рецензировании — это одно, а дисперсия — другое. И, по моему опыту, дисперсия высока. IIRC есть исследования оценок за тексты разными школьными учителями, которые, как было обнаружено, варьируются от хороших до едва сданных для одного и того же текста. Я предполагаю, что экспертная оценка аналогична.

  • Лично я предпочел бы, чтобы рецензирование проводилось открыто (обе стороны названы, некоторые журналы делают это, но не в моей области), а не одна сторона более или менее слепая.

что гранты/призы/звания на самом деле присуждаются лучшим проектам/людям с точки зрения всеобщего блага, а не на основании того, насколько хорошо у претендентов есть связи? (в конце концов, такие комитеты должны иметь или состоять из других исследователей, кто еще сможет судить о влиянии и важности передовых исследований, как не другие исследователи?)

Я думаю, что это принципиально невозможно, потому что это означало бы, что можно заранее знать, какой проект будет хорошим*. Это возможно для очень прикладных проектов, но обычно это отраслевые проекты, а не фундаментальные исследования. «Интересные» проекты всегда предполагают риск того, что дело не получится, не будет найдено решение. В противном случае не было бы необходимости в исследованиях по этой теме.

Иногда огромная важность проектов становится очевидной только спустя годы (или даже десятилетия) после их завершения.

* С другой стороны, я думаю, что можно заранее узнать, что проект плохо разработан, поэтому его не следует финансировать.

что нет никакого сговора между высокопоставленными частными лицами и редакторами «важных» журналов?

Конечно, это может случиться. Коррупция существует, и я не думаю, что наука принципиально отличается от других областей человеческих профессий.
(см. ниже мои мысли о том, как справиться с этим)

что ученые (на разных этапах своей карьеры) не рассматривают / не отдают приоритет «подталкиванию» чисел (например, «h-индексу» или «импакт-фактору» и т. д.), когда они отправляются со своими исследовательскими проектами?

  • В некотором смысле мы не можем, и ИМХО следует ожидать , что ученые интеллектуально вполне способны понять, как оптимизировать данную меру. Таким образом, предположение, что, например, библиометрические меры не влияют на измеряемую систему, не будет верным.

  • Делают ли они это на самом деле, другой вопрос.

  • Есть один очень важный момент: бумаги не хранятся тайно, их можно прочитать. Как ученый вы можете, должны и действительно судите о качестве статей. ИМХО, рецензирование не позволяет отключать мозг при чтении статьи - я думаю, что рецензирование должно быть решетом, которое выбрасывает из системы "неудачные" статьи - в то время как то, что я хочу прочитать, не "еле проходит" но "отличные" бумаги. Однако здесь есть компромисс: если вы будете повышать строгость рецензирования, вы неизбежно отбросите и хорошие статьи или статьи, важность которых станет очевидной лишь позже. То есть слишком строгое рецензирование может наложить ограничение на систему публикации, что неблагоприятно скажется на действительно новых идеях и позволит пропускать только предсказуемые результаты.
    Тем не менее, вы не сможете не понять, кто публикует, нарезая салями, и кто публикует множество исследований, например, с очень небольшим количеством пациентов, плохо спланированными экспериментами и OTOH, какие группы прилагают усилия, чтобы получить значимое количество пациентов, публиковать информацию о соответствующих элементах управления, делать домашнюю работу, подтверждая свои выводы и так далее.

  • Также четко указаны авторы статьи. И, собрав вместе ваших экспертов по качеству статей и, возможно, какой-нибудь сетевой инструмент цитирования, вы сможете понять, кто оптимизирует, например, цитирование.

  • Посещая конференции и семинары и общаясь с людьми, вы узнаете людей лично и сможете судить об их характере. Кроме того, вы услышите изрядное количество не только «слухов» и «историй», которые также рассказывают о людях.

В общем, я думаю, что это работает так же, как и в «реальной жизни»: как узнать, честна ли компания, с которой вы собираетесь иметь дело? Вы заранее доверяете им и используете свое суждение, включая то, что вы слышали о них от своих сверстников: например, были ли они рекомендованы кем-то, кого вы считаете надежным.

«по моему опыту, дисперсия [в рецензировании] высока»: с другой стороны, мне несколько раз случалось, что три или более рецензентов ставили оценки, отличающиеся только на один балл по шкале примерно из 10 баллов.
@silvado: приятно знать

Я начну с того, что мы, вероятно, не можем гарантировать, что ни одна из этих проблем не может возникнуть. Это, вероятно, будет означать внедрение структур, далеких от демократических и открытых, это обратная сторона той открытости, к которой мы привыкли, и поэтому нам нужно научиться жить с системой. Это, однако, не означает, что у нас нет средств для борьбы с плохим, неэтичным поведением.

Рецензенты : Подавляющее большинство рецензентов хорошо справляются со своей работой. Некоторые могут столкнуться с социальными проблемами, чтобы вежливо критиковать, но у них есть знания, чтобы высказывать критические взгляды. Редакторы журналов будут играть жизненно важную роль не только в выборе рецензентов, но также в просмотре и оценке рецензий и предоставлении авторам сбалансированного мнения, основанного на двух или более рецензиях, которые обычно собираются для каждой рукописи. То же самое относится и к фондам, оценивающим предложения. Процесс рецензирования имеет два уровня, где что-то должно пойти не так, чтобы серьезно повлиять на рукопись, и роль редакторов не следует недооценивать.

«Сговор» : эту проблему может быть труднее обнаружить, если проблема возникает на «верхнем уровне». Я не уверен, что вижу запатентованное решение в этом случае, но убежден, что издатели не поддержат такое поведение, и научное сообщество, скорее всего, быстро поймет проблему. Другими словами, существует социальный контроль, который рано или поздно повлияет на такие проблемы. Это не препятствует их возникновению, и, поскольку исследовательское сообщество состоит из людей, у нас есть все человеческие заблуждения, которые можно найти и в других частях общества. Устранение иллюзии о том, что у нас одинаковые моральные взгляды и рыцарство, — хорошее начало.

«инфляция» : есть хорошие сервисы, которые вычисляют, например, h -индекс для вас и таким образом, чтобы другие могли его перепроверить. Я использую Researcher ID , но такие расчеты можно делать прямо в Web of Science и в других местах. Суть в том, что при использовании такого сервиса расчет является открытым и воспроизводимым, и можно проследить, что было введено. Следовательно, используемые индикаторные индексы предпочтительно должны быть такого рода, чтобы можно было без каких-либо усилий перепроверить значение.

гранты : это похоже на пункт * «Collution» выше. Я не вижу простого решения, которое не потребовало бы значительных затрат для финансирующих агентств (и, следовательно, меньшего количества денег, выделяемых на исследования. Социальный контроль, вероятно, является самой сильной стороной здесь, но он также включает в себя открытость, чтобы общественность понимала, кто получает деньги и почему (Я предполагаю, что мы так или иначе говорим о государственном финансировании; отраслевые и частные источники разные)

Так что я понимаю и могу разделить ваш пессимизм, но альтернативы нашей нынешней системе, на мой взгляд, хуже и, вероятно, тяжелее из-за, например, бюрократии. Необходимы открытость и хорошие руководящие принципы, а также постоянное обсуждение этического поведения между всеми. Именно то, что происходит за закрытыми дверями, порождает слухи, а также может спровоцировать описанные вами проблемы.

Отличный ответ, единственное, что я хотел бы добавить, это то, что польза от неэтичности таким образом довольно мала. Например, я несправедливо голосую за кого-то, кто знает влиятельных людей, чтобы получить приз, в надежде, что либо мой голос, либо человек, за которого я голосовал, повлияет на влиятельных людей в будущем, чтобы они проголосовали за меня за что-то, чего я не заслуживаю.