А что вам мешает взять исправные весы и померить?
В любом эксперименте можно наделать кучу ошибок. Если у Вас получается не равное 1/2 усилие на концах или не равное друг другу, то это означает - следует найти ошибку или несколько ошибок, а не махать флагом, что найдено новое никем не описанное явление. Интересно знать что Вы увидели на своих весах и при каких условиях. Набросайте рисуночек, пожалуста. Можете приложить таблицу замеров, очень интересно.
И дополнительно: Вы не пробовали поменять весы местами, опереть эту рейку на призмы, установить те призмы точно по центру чашек весов, повернуть Вашу рейку на 180 градусов относительно вертикальной оси, проверить весы каким либо методом?