数学家公开邮件记录,质疑 OpenAI 对未发表研究的回应“不诚实”
More questions about whether researchers can trust OpenAI with unpublished math
数学家 Andreas Thom 贴出了他与 OpenAI 研究员 Mark Sellke 的邮件往来。Thom 曾明确问过两个问题:他和同事用 ChatGPT 讨论未发表数学工作时,这些对话是否进了训练数据,以及是否在推理时被模型直接访问。Sellke 只回了一句“那没有发生”。Thom 现在认为,这个回答只针对“直接访问”那半句,故意绕开了训练数据...
推荐理由:数学家 Andreas Thom 贴出了他和 OpenAI 研究员 Mark Sellke 的邮件。Thom 问得很清楚:他和同事用 ChatGPT 讨论未发表数学工作时,这些对话有没有进训练数据,以及模型推理时能不能直接读到这些内容。Sellke 只回了一句“那没有发生”。Thom 现在认为,这个回答只针对“直接访问”那半句,故意绕开了训练数据那半句。这事直接打在了学术圈对 OpenAI 的信任上——正文没披露 OpenAI 后续有没有补说明,但光凭这封邮件,已经让研究者有理由怀疑自己的未公开对话可能被拿去训练了。