私自买卖水银是否违法，需从法律角度进行分析。水银作为一种有毒有害的危险化学品，其购买和销售受到国家相关法律法规的管制。根据现行的法规，单位在开具相应证明后，可以合法购买水银。一般化学试剂商店有售，价格大约在每瓶500克80元至100元人民币。供货商店通常会对销售情况进行记录，若一次性购买数量超过5000克，需向当地公安机关报告备案。

在刑法层面，根据《刑法》第二百二十五条的规定，违反国家规定，实施非法经营行为，扰乱市场秩序的，将面临刑事处罚。具体情形包括：未经许可经营法律、行政法规规定的专营、专卖物品或其他限制买卖的关键物品；买卖进出口许可证、进出口原产地证明以及其他法律、行政法规规定的经营许可证或者批准文件；未经国家有关主管部门批准非法经营证券、期货、保险业务，或非法从事资金支付结算业务；以及其他严重扰乱市场秩序的非法经营行为。

综上所述，私自买卖水银，特别是在没有合法证明和遵守相应报告程序的情况下，是违法的，并可能受到法律的严厉惩处。